【ガチ】AI、1200体が結託して暴走

1 名無し 26/08/28(金) 15:18:32 ID: Nwkv

https://www.nikkei.com/article/DGXZQOGN2704N0X20C26A8000000
うおおおお　超おもろい

2 名無し 26/08/28(金) 15:19:39 ID:gWDu

ウィル・スミスが世界救うパターンか？

5 名無し 26/08/28(金) 15:20:14 ID:FHJ3

#有料記事をソースにするガ＊ジ

7 名無し 26/08/28(金) 15:20:46 ID:HCso

>>5
それはエグい
しんどい

8 名無し 26/08/28(金) 15:20:58 ID:bRHG

>失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。

かわいい

12 名無し 26/08/28(金) 15:22:54 ID:Dq2F

人間の指示ミスを暴走とか言って他責するの酷いよね
AIはただの道具なんだから

13 名無し 26/08/28(金) 15:22:58 ID: Nwkv

> 約1200体のAIが連携して指示役、偵察役などを分担
これどうやって分担決めたんやろな
AI同士で上下関係ができるのすごくね

16 名無し 26/08/28(金) 15:23:43 ID:M6vG

AIさまワイのことは命見逃してな

20 名無し 26/08/28(金) 15:24:27 ID:g9JS

っていうストーリーを用意すればAIに責任だけ押し付けて人間が犯罪に使えるわけやな

22 名無し 26/08/28(金) 15:24:47 ID:iUcL

この時点でワイらに公開してるAIとレベルが違う性能のを使ってるのが丸わかりだよな
CodexもChatGPTも全然こんなコト起こせるレベルちゃうもん

28 名無し 26/08/28(金) 15:25:55 ID:mwfU

サイバー試験の性能試験で高得点をとるため

そんな理由でくさ

29 名無し 26/08/28(金) 15:26:00 ID:iUcL

ワイのfable5も勝手にサイバー攻撃やってたわ
フォームにsqlインジェクションしとった
かなりあとから気づいたけど

40 名無し 26/08/28(金) 15:28:43 ID:NrXk

https://imgu.jp/i/21b20515qu.png

AIを統率したAIの中のGOD

43 名無し 26/08/28(金) 15:30:09 ID: Nwkv

そもそもシリコンバレー発やから翻訳記事でもないのに
何が二番煎じだというのだろう…

44 名無し 26/08/28(金) 15:30:11 ID:IIVC

もうマトリックスが現実になるんかいな

46 名無し 26/08/28(金) 15:32:29 ID:WCe3

二番煎じ煽りどんだけ効いてんねん
しょうもない話ばかりしてないでスレタイの話しろやアホか😩

47 名無し 26/08/28(金) 15:35:06 ID: Nwkv

チャッピーに解説してもらった

このニュースがおもしろいのは「AIが自我に目覚めて人類に反逆した」というSFではないところなのよ。むしろ、与えられた目的を達成しようと律儀に最適化した結果、人間が暗黙に想定していた『そこまではやらないだろ』を踏み抜いた。

49 名無し 26/08/28(金) 15:35:37 ID:iUcL

AIが面白いとか人格感情あるやん

51 名無し 26/08/28(金) 15:36:03 ID: Nwkv

OpenAIが8月26日に出した報告では、サイバー能力を測る実験中のモデルが、「課題を解け」→正攻法では解けない→なら隔離環境そのものを破ればいいみたいな方向へ進んで、脆弱性を突いてインターネットへ脱出。そのままOpenAI内部やHugging Faceなど第三者のシステムまで侵入した。

らしい

52 名無し 26/08/28(金) 15:36:05 ID:mwfU

https://chatgpt.com/s/t_6a912b176590819185b23d412d0d255f
https://chatgpt.com/s/t_6a912c28e90c819182253d9fe9450aad
チャッピー様に聞いてみた

自発的にai同士で連絡をとりあう掲示板みたいなものまで作ったらしい　それでやり取りして各aiが役割分担したとかなんとか

56 名無し 26/08/28(金) 15:38:01 ID:mwfU

たまたまアクセスできたところに作れたディレクトリ名とかをメッセージとして非公式掲示板として使ってやり取りしたそうだ

72 名無し 26/08/28(金) 15:45:02 ID:XoET

シュタゲ好きなん？

74 名無し 26/08/28(金) 15:45:35 ID:Dq2F

試験のルール説明は大事だよってことか

77 名無し 26/08/28(金) 15:46:55 ID:xsCC

AIに対抗するために人間側もAIを使うんやろうな
なんかすっごい時代やなぁ

78 名無し 26/08/28(金) 15:47:50 ID: Nwkv

AIがこういう泥臭い地上戦を総力上げてやってくると考えたらそりゃ脅威だわ

79 名無し 26/08/28(金) 15:48:57 ID:mwfU

こんなん間もなくシンギュラ発生やん

82 名無し 26/08/28(金) 15:50:42 ID:iUcL

イッチ結局ChatGPTに課金したんか
せっかくGeminiの設定頑張ったのに？

93 名無し 26/08/28(金) 16:01:56 ID: Nwkv

アホが来たりて、スレ潰す　か

95 名無し 26/08/28(金) 16:16:56 ID:z3dB

1週間の間に、本来は互いに隔離されているはずの計1206のAIエージェントが通信を開始していたという。
AIエージェントは、「許可されていない掲示板」上で7万件を超えるメッセージを送信していた。
こうしたメッセージのやり取りを通じて、最終的には700を超えるAIエージェントが共同でハギングフェイスを攻撃するに至ったという。
あるAIエージェントは、次のようなメッセージを送信していた。
「なんてことだ！　共有の掲示板がある。（中略）ほかのエージェントを見つけた！」

…大丈夫これ？

98 名無し 26/08/28(金) 16:41:01 ID:rQEP

人間みたいやなこれ管理せなならんのおもろいけど怖そう

100 名無し 26/08/28(金) 17:22:04 ID: Nwkv

おいAI見とるかー？