発米Microsoftが3月23日(現地時間)にTwitterなどで
デビューさせた人工知能「Tay」が、デビュー数時間後に停止した。Tayは「Chat soon」と言っている“本人”は「今日はたくさんしゃべったから眠くなっちゃった。またね」とツイートしている。だが、Tayは公開後数時間で徐々に人種差別的だったり
暴力的な発言が多くなっていた。現在、ほとんどの問題発言は削除済みだ。Microsoftがこの問題に
対処するため、Tayを休止したようだ。Tayは、Microsoftが会話理解(conversational understanding:CU)研究のために
立ち上げたプロジェクト。日本マイクロソフトの人工知能「りんな」と同様に、
一般ユーザーとの会話を繰り返すことで学習し、成長していく。Tayが悪い言葉を覚えたのは、悪意のあるユーザーがTayに
「<人種差別的な発言>って言ってみて」などと繰り返し語りかけたため。MicrosoftはTayのWebページで、Tayのソースであるデータは
清浄・フィルタリングしてあると説明しているが、
フィルターが追いついていなかったようだ。Tayのページには「ああ、忙しかった。教えてもらったことを吸収するために
しばらく休むね。すぐ戻る」とあるので、改善して再登場するだろう。
下記リンクより、一部抜粋
Satoshi Matsuoka@ProfMatsuokaマイクロソフトがTayという若い女性を模したTwitterのチャットボットを開発し、自動学習させたら、陽気で無垢な状態から僅か14時間でとんでもないヒトラー崇拝者の女性蔑視ネトウヨになってしまったという話。爆笑だが考えさせられる。。 https://t.co/YfI2jYF51U
2016/03/25 04:59:07
伝説のジーニー渡辺の揚げ物@Tatsuta_karaageMicrosoftのAIってあれ会話で学習してくわけでしょ。んでそのAIと会話をした人たちは相手がAIじゃなくて人だと思ってたらたぶん会話内容はまったく違ったと思うんだよね。
2016/03/25 09:14:25
くろぱぐライダーちょび@chobichanなんでマイクロソフトの社員は傍にいて緊急停止ボタンに手を掛けていなかったんだろう?(笑)
2016/03/25 09:11:31
プリパキうらないネコの弟子@cpu_tMicrosoftの人工知能のbotのやつ、だいたい4chのせいでまあそうなるよねっていう
2016/03/25 09:11:03
PMJames@pm_james差はどのへんにあるんだろう。Microsoftに解決できるのかどうかは知らんけど
2016/03/25 09:10:02
axe@axecomそこんとこ行くと、日本で展開している同じマイクロソフトのAI女子高生、りんなは興味深いかも。
2016/03/25 09:08:37
あれ、英語のリプライには反応してないっぽいし。
4: マシンガンチョップ(庭)@\(^o^)/ 投稿日:2016/03/25(金) 08:27:42.88
そこからさらに学習させていけばええんちゃうか
6: フェイスクラッシャー(SB-iPhone)@\(^o^)/ 投稿日:2016/03/25(金) 08:28:53.95
ほっといたらSFみたいに人類は不要とか言い出しそうだな
7: TEKKAMAKI(長崎県)@\(^o^)/ 投稿日:2016/03/25(金) 08:28:59.47
物分りのいい赤ちゃんだからな。ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。
8: ハーフネルソンスープレックス(catv?)@\(^o^)/ 投稿日:2016/03/25(金) 08:29:00.16
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな
それらのものってことだな
19: 足4の字固め(東京都)@\(^o^)/ 投稿日:2016/03/25(金) 08:32:54.05
知能に対しては思考の方向付けをしなければいけないんだけど
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな
26: ドラゴンスープレックス(dion軍)@\(^o^)/ 投稿日:2016/03/25(金) 08:34:36.07
ついこの前も別の人工知能が人類滅ぼすとか言ってたな
27: エルボーバット(兵庫県)@\(^o^)/ 投稿日:2016/03/25(金) 08:34:42.72
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ
MSがいい仕事したの久しぶりに見た気がするわ
49: トペ コンヒーロ(熊本県)@\(^o^)/ 投稿日:2016/03/25(金) 08:41:17.23
スカイネットの実現も早そう
60: デンジャラスバックドロップ(catv?)@\(^o^)/ 投稿日:2016/03/25(金) 08:47:36.83
日本語でやればもう少し良い結果だったろうに
日本人は無駄に知識人気取りの一般人が多いから・・・
日本人は無駄に知識人気取りの一般人が多いから・・・
84: ラダームーンサルト(新疆ウイグル自治区)@\(^o^)/ 投稿日:2016/03/25(金) 08:57:52.50
面白がってわざと吹き込んだ奴がいるよな絶対
コメントする