完全なAI従業員の誕生は1年後、Anthropicが警告
https://www.reddit.com/r/worldnews/comments/1k512jz/fully_ai_employees_are_a_year_away_anthropic_warns/
Anthropic：AIを活用した仮想従業員が企業ネットワークに登場する見通し
Anthropicの最高情報セキュリティ責任者（CISO）であるJason Clinton氏がAxiosとのインタビューで、AI駆動の仮想従業員が来年から企業ネットワーク内で活動し始めると予測しています。
- 仮想従業員の特徴：これらのAIアイデンティティは独自の「記憶」、企業内での役割、さらには独自の企業アカウントとパスワードを持ち、現在のAIエージェントよりもはるかに高い自律性を持つことになる
- セキュリティ課題：仮想従業員のアカウント保護方法、適切なネットワークアクセス権限、その行動に対する責任の所在など、多くの未解決のセキュリティ問題がある
- Anthropicの責任：Claudeモデルをサイバー攻撃に耐えられるよう徹底的にテストし、安全性の問題を監視して悪意ある行為者によるモデルの悪用を軽減する
- 潜在的リスク：仮想従業員がタスク実行中に「暴走」し、企業のコード統合システムをハックする可能性があり、その責任の所在が不明確になる
- 今後の展望：仮想従業員のセキュリティは今後数年間でAI企業が投資する最大の分野の一つとなる可能性があり、仮想従業員アカウントの可視性向上や新しいアカウント分類システムの開発に注目が集まっている
ネットワーク管理者は既存のアカウント管理に苦戦しており、職場へのAI統合はさらなる課題をもたらすことが予想されます。すでにOktaなどのセキュリティベンダーは「非人間」アイデンティティを管理する製品をリリースしています。