「無知の知」を獲得したAI。胎児の脳が見る夢が、ディープラーニングの致命的な過信を打ち砕く

AIが「自分が間違っているかもしれない」と疑う能力を持たない過信が、ハルシネーションや人命に関わるシステムでの誤判断を引き起こすことが問題視されている。KAISTの研究チームは、ディープラーニングのランダム初期化直後に、まだ何も学習していないネットワークがランダムノイズに対して高い確信度で誤った判断を下すことを発見した。これは、ネットワーク内の微小な偏りがソフトマックス関数で強調され、初期段階で過信が形成されるためであり、胎児の脳が外界に触れる前にノイズを処理するメカニズムから着想を得た「ランダムノイズによるウォームアップ学習」が、この過信を抑制する可能性を示唆している。