正しいことを教える人間と悪いことを教える人間。AIはどちらを選ぶのか。

音声アシスタントは便利ですが、これは人間が試行を繰り返すことによって賢くなっていきます。

AIは小さな子供のようなもので、教えられたことをある程度すんなりと受け入れます。
AIにはその善悪などわかりません。
悪い人間に教えられたAIは悪いことを覚えてしまうのです。
CNNにちょっと危ない事件が取り上げられていましたので、共有します。

米アマゾンのスマートスピーカーに搭載された音声アシスタント機能「アレクサ」が、あるユーザーに危険なアドバイスをしたとのニュースがソーシャルメディア上で拡散した。
クリスティン・リブダールさんが投稿したツイートによると、アレクサはリブダールさんの１０歳の子どもに、露出したプラグにペニー（１セント硬貨）で触れるよう指示したという。
リブダールさんは、「私の１０歳の子どもがエコー（アマゾンのスマートスピーカー）でアレクサに課題を求めたところ、アレクサはこのように指示した」とツイートした。
リブダールさんは、子どもが課題を求めた後にアレクサが実際に出した回答の画像も公開した。そこには次のように書かれていた。
「ウェブ上でこちらが見つかりました。以下はｏｕｒｃｏｍｍｕｎｉｔｙｎｏｗ．ｃｏｍからの情報です。課題は簡単：壁のコンセントに携帯電話の充電器を半分ほど差し込み、露出した金属部にペニーで触れるだけ」
このツイートに衝撃を受けたユーザーから多数のコメントが寄せられた。あるユーザーは「ショッキングだ」とツイートし、別のユーザーも「信じられない、恐ろしい」とコメントした。
アマゾンは、この問題はすでに解決済みとしている。
アマゾンの広報担当者は「このエラーに気付いた後、すぐに修正した。今後（アレクサが）同様の回答をしないよう、システムの改善を図っていく」と述べた。
今回アレクサが指示した危険な行為は「ペニーチャレンジ」などと呼ばれ、２０２０年に動画アプリ「ＴｉｋＴｏｋ（ティックトック）」などのソーシャルメディア上で流行したが、一部のユーザーがその潜在的な危険性を指摘していた。

https://www.cnn.co.jp/tech/35181502.html

Alexaが、不適切なものを適当でない人にアドバイスをしてしまったようです。
「コンセントの金属部分の露出した部分に金属を当ててみて」など、正気の沙汰ではありません。

しかし、これが音声アシスタントの潜在的な危険性なのです。
これを最小限とするためにAmazonなどがさまざまな試行錯誤の上対策を講じています。

インターネットは危険に溢れています。今回は悪い人間をAIは信じてしまったものですが、Amazonは間違えたフィードバックを通報する先を設けています。

Alexaに間違いを教える方法

一番カンタンなのは、下のリンク先から Alexa に間違いを伝える方法です。
聞かれたくないセンシティブ情報を Alexa に話してしまった場合にも使えます。

• 音声履歴を確認 - Amazon.co.jp

スマホの場合は Alexa アプリが、PC の場合は WEB ブラウザ版の「音声履歴を確認」画面が開きます。
今回はPC版でご説明します。

あとは Alexa が賢くなってくれるのを祈って待っていればOK。

音声アシスタントは無限の可能性を持っている。

この1件で音声アシスタントの評価が下がらないことを祈っています。
小さな子どもが見ても大丈夫なインターネットになればいいのです。