生成AIには今致命的な問題が発覚してて、結構物議醸しておるよ
それは、物事の本質を理解しているように振舞うが、実際は何にも理解せず結果を出力しているっていう問題

とある命題に対しての原則を問い合わせると、教科書通りの原則を回答してくる
でもその原則を用いて課題を実行させると、原則を無視した結果を出力していた

すべてのAIでこれが起きていて、とても信用で来たもんじゃねえってなってる