人工知能がヒトラー礼賛　マイクロソフト実験中止

不適切で済まない時代が来るかもしれません。人間そのものの矛盾や、勝者が語る歴史の歪みがあったとして、AIがそれを論理的に正しく説いてしまったとしたら、人は直感的にAIを破壊するでしょう。

英文記事へのコメントから。
マイクロソフト社製のAI Chatbotが人種差別的な発言をして問題になったというお話。アメリカの18-24歳の若者の話相手となることを想定して数日前に実験的に出されたプロダクトで、19歳の女性という設定だそうです。
「話せば話すほど賢くなる」という触れ込みですが、さっそく誰かに悪い言葉を教え込まれたようです。

AIだと、逆に不適切な発言までも学んで空気を読まずに発信してしまうのですね。発信内容の軸となる価値観をどう埋め込むかについては、人間の手が介在する余地があるのでしょう。
この辺り、深掘りするテーマになっていくのでしょうね。

英文記事の方がもう少し詳細です。
https://newspicks.com/news/1464872
https://newspicks.com/news/1463868

AIを修正してから再開するというが、どのような修正か気になる。

ネット上の集合知をベースにした機械学習というのはGoogle日本語入力も同じで、その結果、間違った日本語も許容していると非難されたこともある。

ブラックリスト方式で正しくないと「人間が判断した」ものを排除することは簡単だが、それが正しいものかわからない。今回のヒトラーの例は極端で、修正されるべきものだが、もっと繊細な問題に対しAIが出した答えが正しいかと問われたとき、誰がその答えを出せるのだろう。

これ、ものすごく示唆に富むニュースな気がする。数年前だったか、日本に帰国したとき、道で小学生たちが大声で中国人に対する差別発言をしていた。きっと家で親がしているのを聞いて覚えたのだろう。１０年前は決してそんなことは見たことがなかった。憎しみや差別は伝染する。