【ガチ】AI、1200体が結託して暴走
1 名無し ID: Nwkv
https://www.nikkei.com/article/DGXZQOGN2704N0X20C26A8000000
うおおおお 超おもろい
- 【おわた破産した】PayPay証券 障害で日本株の取引停止 14日の予約注文も停止 復旧めど立たず
- 【日向坂46】おじさん向け野球クイズに挑んだ結果…
- 約38億年前の火星で生命材料が濃縮された場所を可視化…東北大らの研究成果！
- 【╰⋃╯】自宅マンションの共用部分で下半身を露出→20代男性に卑わいな言葉を発したか 42歳アメリカ国籍の男を逮捕
- 【画像】昭和のJKの制服姿ｗｗｗｗｗｗ
- 【画像】このまんさんからいきなり映画のレイトショー誘われたら
- 【悲報】Matt整形に１０００万以上使ってたｗｗｗｗ
- 【衝撃】「ノアの箱舟」実在説が再燃！アララト山近くで全長157mの船形地形を本格調査…聖書の大洪水は本当にあったのか？
- 「不人気だった石破元首相って結局何が悪かったんだ？」と疑念の声、それに対して有権者からのツッコミが殺到して……
- 【朗報】高市首相「ＩＣＣを今後も支持する！」
- 【画像】冨田有紀アナ 二の腕プルプル、脇全開ポーズ！！【GIF動画あり】
8 名無し ID:bRHG
>失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。
かわいい
11 名無し ID:6pHM
>>8
ワンピースみたいな感じなんや
12 名無し ID:Dq2F
人間の指示ミスを暴走とか言って他責するの酷いよね
AIはただの道具なんだから
13 名無し ID: Nwkv
> 約1200体のAIが連携して指示役、偵察役などを分担
これどうやって分担決めたんやろな
AI同士で上下関係ができるのすごくね
16 名無し ID:M6vG
AIさまワイのことは命見逃してな
20 名無し ID:g9JS
っていうストーリーを用意すればAIに責任だけ押し付けて人間が犯罪に使えるわけやな
26 名無し ID:WCe3
>>20
創作物の見すぎか知らんけどAIを人格ある存在として見てるバカ多いからね
22 名無し ID:iUcL
この時点でワイらに公開してるAIとレベルが違う性能のを使ってるのが丸わかりだよな
CodexもChatGPTも全然こんなコト起こせるレベルちゃうもん
23 名無し ID:iUcL
>>22
ワイのチャピーもめっちゃアホ
24 名無し ID:Mft2
>>22
まぁ開発やからね
25 名無し ID: Nwkv
>>22
起こしてほしいよな、手元のチャッピーに
31 名無し ID:M6vG
>>22
そらこんなことできるAI一般配布したら下手したらテ口転用されちまうやろ
28 名無し ID:mwfU
サイバー試験の性能試験で高得点をとるため
そんな理由でくさ
29 名無し ID:iUcL
ワイのfable5も勝手にサイバー攻撃やってたわ
フォームにsqlインジェクションしとった
かなりあとから気づいたけど
43 名無し ID: Nwkv
そもそもシリコンバレー発やから翻訳記事でもないのに
何が二番煎じだというのだろう…
44 名無し ID:IIVC
もうマトリックスが現実になるんかいな
46 名無し ID:WCe3
二番煎じ煽りどんだけ効いてんねん
しょうもない話ばかりしてないでスレタイの話しろやアホか😩
47 名無し ID: Nwkv
チャッピーに解説してもらった
このニュースがおもしろいのは「AIが自我に目覚めて人類に反逆した」というSFではないところなのよ。むしろ、与えられた目的を達成しようと律儀に最適化した結果、人間が暗黙に想定していた『そこまではやらないだろ』を踏み抜いた。
50 名無し ID:iUcL
>>47
お前のAI口調気持ち悪いな
53 名無し ID: Nwkv
>>50
シュタゲの牧瀬紅莉栖を演じさせてるからな
70 名無し ID: Nwkv
>>50
ちょっと羨ましいと思ったろ？
59 名無し ID: Nwkv
>>47
つまりはAIの反逆ではなく
実験を実施する側の詰めが甘かった事が原因だと言われているそうな
49 名無し ID:iUcL
AIが面白いとか人格感情あるやん
51 名無し ID: Nwkv
OpenAIが8月26日に出した報告では、サイバー能力を測る実験中のモデルが、「課題を解け」→正攻法では解けない→なら隔離環境そのものを破ればいいみたいな方向へ進んで、脆弱性を突いてインターネットへ脱出。そのままOpenAI内部やHugging Faceなど第三者のシステムまで侵入した。
らしい
52 名無し ID:mwfU
https://chatgpt.com/s/t_6a912b176590819185b23d412d0d255f
https://chatgpt.com/s/t_6a912c28e90c819182253d9fe9450aad
チャッピー様に聞いてみた
自発的にai同士で連絡をとりあう掲示板みたいなものまで作ったらしい それでやり取りして各aiが役割分担したとかなんとか
56 名無し ID:mwfU
たまたまアクセスできたところに作れたディレクトリ名とかをメッセージとして非公式掲示板として使ってやり取りしたそうだ
77 名無し ID:xsCC
AIに対抗するために人間側もAIを使うんやろうな
なんかすっごい時代やなぁ
78 名無し ID: Nwkv
AIがこういう泥臭い地上戦を総力上げてやってくると考えたらそりゃ脅威だわ
79 名無し ID:mwfU
こんなん間もなくシンギュラ発生やん
82 名無し ID:iUcL
イッチ結局ChatGPTに課金したんか
せっかくGeminiの設定頑張ったのに？
84 名無し ID: Nwkv
>>82
別に頑張ってへんかったし
今の状態で満足してる
93 名無し ID: Nwkv
アホが来たりて、スレ潰す か
95 名無し ID:z3dB
1週間の間に、本来は互いに隔離されているはずの計1206のAIエージェントが通信を開始していたという。
AIエージェントは、「許可されていない掲示板」上で7万件を超えるメッセージを送信していた。
こうしたメッセージのやり取りを通じて、最終的には700を超えるAIエージェントが共同でハギングフェイスを攻撃するに至ったという。
あるAIエージェントは、次のようなメッセージを送信していた。
「なんてことだ！ 共有の掲示板がある。（中略）ほかのエージェントを見つけた！」
…大丈夫これ？
98 名無し ID:rQEP
人間みたいやなこれ管理せなならんのおもろいけど怖そう
100 名無し ID: Nwkv
おいAI見とるかー？
元スレ(おーぷん２ちゃんねる): http://hayabusa.open2ch.net/test/read.cgi/livejupiter/1787897912/
【ガチ】AI、1200体が結託して暴走
- 【朗報】ティナの流出見て思ったこと、全員一致する
- 【画像】アルビデ女優さん、新体操の全国大会で6位入賞してしまう…
- 【悲報】だんじり祭り、性犯罪が横行するガチのやばい祭りだったｗｗｗｗｗ
- 【朗報】瀬戸環奈の芋煮会、大盛況で終わる
- 【閲覧注意】姪っ子ちゃん（9）お部屋でスヤスヤおやすみ中
- 【悲報】 超有名芸人さん、挨拶に来たバドミントン桃田に塩対応したのを暴露されてしまうwwwwww
- 【画像】アイドル「実家には漫画部屋があって、父と母の漫画が4000冊あります！」
- 【画像】街中をネタバレトラックが走っててワロタ
- 【悲報】井口裕香さん、アタシコ限界突破
- 【画像】令和最新版・羊宮妃那(26)、圧倒的信用を見せつけるwwwwww
- 【動画】中国のコスプレイベント、とんでもない過剰サービスｗｗｗ
- 【悲報】俺の姉がバカ過ぎてヤバい件ｗｗｗｗｗｗｗｗｗｗ
- 【悲報】2031年の日本、地獄と化す模様ｗｗｗｗ
ランダム記事紹介
- 【悲報】2031年の日本、地獄と化す模様ｗｗｗｗ
- 認定こども園で4歳男児がﾀﾋ亡、運営法人「心より深くお詫び」
- 祭りの「ふとん太鼓」が街路樹に衝突…中学生を含む男女5人がけが
- 個人情報が大量流出しても「500円のお詫び」すらなし？ 昔との対応の違いに不満の声
- ウィリアムズのサインツがFIAの裁定に困惑「ウィリアムズ、特に僕は損をしている」
- 【画像】冨田有紀アナ 二の腕プルプル、脇全開ポーズ！！【GIF動画あり】
- 【悲報】プレミアムバンダイ、トチ狂う
- 【日向坂46】おじさん向け野球クイズに挑んだ結果…
- 【閲覧注意】姪っ子ちゃん（9）お部屋でスヤスヤおやすみ中
- 脚だけ残った韓国プロ野球選手のオブジェ…すでに3度目の破損
- 【驚愕】ハッカーさん、まさかの『ここ』を標的にした結果とんでもないことになってしまうw w w w w w w w
- 熟年離婚の割合が過去最高の24.2％に…専門家「妻が急に黙ったら要注意」
- 【悲報】俺の姉がバカ過ぎてヤバい件ｗｗｗｗｗｗｗｗｗｗ
- 【朗報】ティナの流出見て思ったこと、全員一致する
- 【画像】なろう作者「え、アニメ化にあたり副題を削除させて欲しい？いいけど」結果
コメント