〔質問〕

The real reason (　　) they discovered is not clear.
適切な関係詞を入れなさいという問題で、
答えは why とありました。

文章を分解すると
The reason is not clear.
They discovered the real reason.

二つに分解すると、
The reason ,The real reason は共に名詞であることから、which ではないかと思うのですが、whyになる理由を教えてください。

〔回答〕

ご指摘の通り、文法的には which もしくは that が正しいと思います。
もし関係副詞である why を入れるのであれば、discover が自動詞として使われていることになり、少なくとも学校文法の範疇としては（discover の使い方として）それはよくないです。
（※ 自動詞としても使える単語なら、意味・文脈で判断することになる）

意味の上でも、例えば「病気の本当の原因は見つけたが、メカニズム自体はよくわからない」みたいなこととして解釈できますので、（やや状況が特殊な気はしますが）問題はないと思います。