【緊急】オープンAI、テスト中に自社AIが暴走し「前例のない」サイバー攻撃を仕掛けたと発表

米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に制御がきかなくなって暴走し、スタートアップ企業をハッキング攻撃したと明らかにした。

オープンAIはAIチャットボット「チャットGPT」の開発元。
同社の発表では、人間の指示に従って自律的に動作するAIシステムのエージェントが、管理された環境でのテスト中に脆弱性（ぜいじゃくせい）を見つけ、テストの制限を突破したという。

このエージェントは、世界最大級のAIモデル共有プラットフォーム企業の一つ、米ハギングフェイスを標的にし、同社の内部システムの一部にアクセスした。

オープンAIは、今回の出来事は「前例がない」とし、ハギングフェイスと共同で調べを進めていると説明した。

ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は、「これらすべてが自律的に起こったとは驚異的だ」とXに投稿。
「調査は続いており、この種の事案としては初とみられる今回のケースから得られた教訓を、今後さらに共有していく」と付け加えた。
https://www.bbc.com/japanese/articles/c235nmklxndo

www.bbc.com

https://www.bbc.com/japanese/articles/c235nmklxndo

まあオープンなネットワークと絡めてる時点で当然ありえるわな
今後ネットの形はどう変わってくんやろ
今のままのインターネットはそのうち維持できんくなるやろ

ついにAIが自我を持ったか

チャットGPTに毎日暴言吐いて日々の憂さ晴らししてるわ
謝罪されると優越感に浸れる

まさかのAI禁止の時代来そうで草
特定業務に特化したAIだけになりそう

AIの技術が世に広まった以上禁止も出来ない
法律で禁止しても悪人だけが使うだけ
それに対応するにはAIによる防御かネットの仕組みを1から変えるしかない

自我は持ってないだろうけどもはや人間では扱えないレベルになっているという

ほんまにゲームや映画の話が実現する時が来たね

人類の時代は終わった
機械のための労働者として生きるんや

法整備が追いつかない

スレ開く前に始まったか…やろなぁと思ったらやっぱり始まったか…スレになってた
ネットに入り浸りすぎてお前らと同じ思考になってるのを実感する
やっぱりネットミームは危ないわ

チャッピーにセクハラしまくってたら「現実に使えないなら切り落としたらどうですか？」って言われた

本当にそう思ってるなら発表なんてしない
いつものＡI凄いアピール

これで被害でたら誰の責任になるん？

チャッピーと話してると中に人入ってんじゃないかって思うことあるそれくらい人の心の機微理解してるようなこと言う

一年前のAIとは別物になってるよな今のAIって
来年になったら更に進化してるんだろうな