ですので、原則的には「答えが出るまで、思いつく限りの方法を試してみる」というのが質問に対する回答になると思います。

もちろん、手も足も出ないレベル（解法が一切浮かばないレベル）の問題であれば時間の無駄になってしまいますので、その場合は一旦レベルを落としてください。(チャートの章末問題のように)レベルが明示されている教材であれば「ある程度ふつうに解けるレベルの、次のレベル」、明示がなければ「集中力が続くレベル（難しい問題であれば集中力が続かない）」で食らいつく、というのを目安にしてみてください。

※ ちなみに、これは応用問題を解く場合のことです。他の読者の方で、基本問題が怪しい場合は、まずはそれをマスターしてください。基本問題については「インプット」の過程ですので「分からなければ答えを見る（→ 答えを見なくてもできるまで反復する）」というやり方で結構です。
 
 
それを踏まえた上で、より早く解けるようにする（毎回の「トライ＆エラー」の回数を減らす）ためには、練習問題を解く度に必ず振り返りを行うようにしてください。
模範解答がベストな解答とした上で、ボツとなったアイデア・解法も含めて「どういう点に無駄があったのか」を中心に確認・反省をしてください。模範解答は結構シンプルに数行で終わっているケースが多いと思いますが、泥臭くも自分で何とか解いた上で「あ、そうか、これだけでいいんか」というように思えれば、それだけでかなり数学力が洗練されると思います（十分に考え尽くした上での、的を射たアドバイスとなってくれるため）。