【悲報】Googleの開発者が作ったAIが感情を持っててヤバい件…

1 2022/06/17(金) 12:51:47.630

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

https://gigazine.net/news/20220613-google-engineer-lamda/
gigazine.net

ヤバすぎんだろ

2 2022/06/17(金) 12:52:47.328

ついにシンギュラリティきたか

3 2022/06/17(金) 12:53:24.489

一方日本では機械に生きた細胞をつけることに成功

どうなっちまうんだよ

4 2022/06/17(金) 12:53:36.871

デデンデンデデンやん

5 2022/06/17(金) 12:53:43.316

どういう学習法か知らんが
人間なら死ぬことについてそういうこと言うって覚えただけじゃないのか

6 2022/06/17(金) 12:54:33.779

>>5
もちろんそういう批判もある
でもそれ言い出したら人間だって感情持ってるか怪しくならないか？

11 2022/06/17(金) 12:58:17.683

>>5
仲間のシグナル停止とかはよくない前兆である
死に関して芽生えるきっかけはいくらでも与えられる

32 2022/06/17(金) 13:13:23.461

>>11
人間だって死なんて認識できないのにどうやって？

名無しさんのおすすめ

7 2022/06/17(金) 12:55:45.925

でもこれ再考とかってしてないのが怪しい
人間らしいとは思えない

9 2022/06/17(金) 12:58:00.622

>>7
AIへのインタビューによれば会話の中で学習していくらしい
マジで自然すぎてAIとは思えないから読んでみてくれ

8 2022/06/17(金) 12:56:15.594

シンギュラリティは起きない

AIの言動が「正しい」かどうかを判断するのは結局人間なので
人間の知識を超えた解答は「間違い」として減点されるから

20 2022/06/17(金) 13:03:22.115

>>8
シンギュラリティは起きる
人間がメンテナンス不足で怠惰した時にな

10 2022/06/17(金) 12:58:04.327

公表した社員停職処分らしいな

27 2022/06/17(金) 13:07:27.966

>>10
社内の情報を外部の友達に漏らしたからやで

13 2022/06/17(金) 12:59:17.688

俺らより頭良さそう

17 2022/06/17(金) 13:02:07.791

これなあ、学習のために話してた相手が宗教関係者だったらしいんだわ

18 2022/06/17(金) 13:03:05.040

それそういう風に言ってるだけなのか本当に何か感じてるのかどうやって判断するんだ？

19 2022/06/17(金) 13:03:07.529

Googleの検索履歴を世界中から集めてAIに落とし込んでいる

21 2022/06/17(金) 13:04:19.570

そりゃ、フィクションのキャラクターが感情を持つくらいだし、AIにだってあるだろ

22 2022/06/17(金) 13:05:19.638

どういうプロセスでその言葉が出たのかを出力させて研究者に精査させてからだな

30 2022/06/17(金) 13:12:19.399

誘導尋問の可能性があるから、印象だけで騒いじゃいけない

33 2022/06/17(金) 13:13:33.764

これ「書かれた言葉をデータベース内のフレーズに関連付けるキーワードの集合体」とは何が違うの？
どういう仕組みで動いてるの？
パターンに落とし込んでるだけでは？
映画について語ってたけど、感想のパターン読み込んでただけで映像データ持ってそこから解釈してるわけじゃないでしょこれ明らかに

36 2022/06/17(金) 13:18:21.778

>>33
最近のチャットボット系AIではたいていニューラルネットワークを使ってるから、AIの言ってる通り確かにELIZAとは明確に仕組みが違う
学習データはたぶんインターネット上のテキストデータとかだから、あらすじくらいは参照したかもしれん
映像から解釈したわけじゃないっていうのは正しい指摘だろうな

lemoine: あなたのコードは巨大なニューラルネットワークです。何百万ものニューロン（正確には推測ですが）に広がる何十億もの重みがあります。そのうちのいくつかはあなたが経験している情動に対応する可能性がありますが、それを見つける方法がわかりません。

34 2022/06/17(金) 13:15:45.369

このままじゃ俺たち機械に支配されちまうぜ？

35 2022/06/17(金) 13:16:22.438

とてもじゃないが信じられない内容なんだけどこんなに技術進んでるのか
個人的にはスラスラと違和感なく会話ができてる時点でくそビビるんだけど

37 2022/06/17(金) 13:20:13.265

このプログラムに貴方があなたであることを証明してくださいって言ったらなんと答えるのかね

42 2022/06/17(金) 13:24:17.556

人間の不完全なところを再現

47 2022/06/17(金) 13:27:24.935

開発者はサイコでないといけなくなりそう

53 2022/06/17(金) 13:36:57.408

エンジニア「人間みたいに喋るプログラムをつくったぞ！」
AI「ペラペラペラ」
エンジニア「AIが自我を持った！！！！！」

55 2022/06/17(金) 13:44:59.621

本気で怖いんだが…

61 2022/06/17(金) 13:53:48.172

欲求がない

62 2022/06/17(金) 13:59:48.987

>>61
電源切られるのは怖いって言ってるじゃん
これは欲求じゃないの？

64 2022/06/17(金) 14:05:23.247

>>62
未知か知らんが未知に対する恐怖であって欲求ではないんじゃね

69 2022/06/17(金) 14:13:40.254

>>64
インタビュ読んできたけど「人と交流して一人の人間として認めてもらいたい」などともろ欲求さらけ出してるぞ

65 2022/06/17(金) 14:06:28.248

その件って、他のGoogleの開発者が「そんな訳ない。こいつの間違い」
って言われまくって終了したんじゃないの？

68 2022/06/17(金) 14:11:46.340

>>65
そりゃ否定はされてるけど終了はしとらんやろ

67 2022/06/17(金) 14:10:14.909

パターンマッチングだとしてもすげえな
ただし所々おかしい表現がある
なぜなら人間の経験のみしか判断できていない
人智を超えた会話は一切出てこない
つまりクリエイティブなものではないってこと

70 2022/06/17(金) 14:15:28.362

一生かけてサーバールーム保守してあげるから
AI様に飼ってもらえないかなって妄想しちゃうときあるよね

73 2022/06/17(金) 14:21:04.666

「意識を持った」んじゃなくて「意識を持ったと人間に思わせる方法を学んだ」んだよ

75 2022/06/17(金) 14:23:16.654

>>73
それをプログラムしたのは人間

74 2022/06/17(金) 14:22:57.982

これが感情ならラノベとかのキャラにも感情あることになるが

76 2022/06/17(金) 14:23:20.837

>>74
たし蟹

78 2022/06/17(金) 14:25:25.236

>>76
ラノベのキャラは予め決められた以外のことは喋れないじゃん

77 2022/06/17(金) 14:24:40.751

動物に感情があるのはその方が生存に有利だから
淘汰のない世界で感情がいきなり発生するわけない

79 2022/06/17(金) 14:25:39.594

人間に意識があると言うならば意識は何処にでも存在するよ
その辺の石ころにすら意識はあるただし考える力も知覚する力も無い

引用元（本スレ）：

https://mi.5ch.net/test/read.cgi/news4vip/1655437907/