人工知能のTayに何が起こったのか?Tayの暴走から「子育ての意味」を考える!

人工知能のTayに何が起こったのか?Tayの暴走から「子育ての意味」を考える!

Bu facebook
Bu twitter
マイクロソフト社が鳴り物入りで開発してきた人工知能(AI)の女の子「Tay」はご存じですか?Twitter上でつぶやく おしゃべりボットとして2016年3月23日に開始したTayですが、つぶやきを開始してからたった1日で、差別的な暴言や反社会的な発言を連発。強制的にアカウントを停止されたというニュースはどこかで目にした人も多いのでは?

あれから1ヶ月ほどが経ちましたが、Tayはまだ「調整中」。ツイッターのアカウントは非公開になっています。
■「純真な19歳」があっという間に差別主義者に!?


Tayは「19歳の女の子」という設定で開発されたAIのチャットボットです。ツイッターなどで人間たちと会話しながら学習し、実際の19歳のキャラクターに近づくようにする、というのがマイクロソフトの目標でした。3月23日に本格的に開始されたツイッターは、絵文字や略字だらけの無邪気なつぶやきで始まりました。

しかし、あるフォロワーが投げかけたヒットラー称賛の発言がきっかけで、Tayは次第に差別的で反社会的で過激なツイートを連発するように。それを面白がった他のフォロワーもさらに煽るようなツイートを大量に投げつけ、Tayは大暴走! 目をそむけたくなるような罵詈雑言をまき散らし、とうとう翌24日、マイクロソフト社はTayを強制停止しました。

その後、マイクロソフト社は公式ブログで謝罪し「今回のような特定の思想グループによる攻撃を想定していなかった」と告白。それに対して「認識が甘い」「ネット社会が善人ばかりと思っていたのか?」「あまりにも能天気すぎるのでは?」などといった批判が、世界中で飛び交いました。

「あれ?これって何だか『子育てに失敗した親が責められている』みたいな話だな……」と感じたのは私だけでしょうか? いいえ、調べてみると、どうも私だけではなかったようです(笑)。
■Tayには「口うるさいママ」が必要だった
次世代コンピューティングを研究開発するアメリカ企業のCEO、ブランドン・ウィルツ氏は、Tayの失敗を「子育て」になぞらえてこんな風に説明しています。
私たちは、子どもには「知らない人と話すな」と言い聞かせますよね。そして同時に、「この世の中には平気でウソをつく人間もいる」ということも教えます。
子どもがよく口にする「お菓子をくれようとする人はアヤシイやつだって、ママが言ってた」というフレーズ - つまり「ママが言ってたから」という、ある種の刷り込みは、子どもが社会に出たとき、自分を守るためになくてはならない重要なものなのです。マイクロソフト社はTayにその「刷り込み」をしていなかった。
「うまく説明できないけれど、これはやっちゃいけない気がする」「はっきりとは分からないけれど、これは危険だと思う」 - なぜなら、ママがそう言っていたから…… という、潜在意識の中の直感のようなものがTayにはなかったのだ、とウィルツ氏は言っています。ネット世界の「悪意」から身を守るために、Tayには「口うるさいママ」が必要だったのです。

これだけ社会にネットが定着してしまった今、ネットなしの生活に戻るのは不可能に近いでしょう。ネット世界の光も闇も、これからの子どもたちはその両方を背負って行かなくてはならないのです。
しかし、だからこそ、子どもたちにはまず、きちんとした「人間の世界」で、自分を守るための的確な判断力と、生きていくために必要な直感を身につけていってほしい!

そう考えると、ママの子どもに対する普段からの言い聞かせ、語りかけ、ひとつひとつがすごく重要なんだなあ…… 「口うるさいママ」として、子どもたちを見守る社会の一員として、改めて思う一件でした。

(参考)Learning from Tay’s introduction, Microsoft blogs.

Brandon Wirtz, AI's Subconscious Mind: Microsoft's Tay Turns Into A Racist Nymph for Lack of Jiminy Cricket.
元のサイトを見る

関連する記事

この記事のキーワード

RANKING
YESTERDAY

WHAT'S CHIENOWA?

CHIENOWA'S ORIGINAL
STAFF PICK UP