GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう

　2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。

■事件の概要

　ミシガン州の大学院生ヴィディ・レディ氏は、高齢者の社会的課題についてのレポートを作成するため、妹のスメダ・レディ氏と一緒にGeminiを利用して質問を行っていた。
　その中で、「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問したところ、AIが突如として以下のようなメッセージを送信した。
後略