チャットGTPの種明かしだって結局は「データベース」にある事を答えているだけ
だからデータベースにない事は途端に破綻して頓珍漢な回答をする、これが「自信満々に間違える」という事

もっというとシュミレーションするスーパーコンピューターはあるそのシュミレーション結果が正しいわけではないので人間が判断して正しくない計算結果は全て切り捨てて正しい答えだけ残しているらしいです