人間の役に立ち、傷つけないAIはどうしたら作れるか?(09:57)

マーガレット・ミッチェル(Margaret Mitchell)
このページをシェアする:
対訳テキスト
講演内容の日本語対訳テキストです。
※映像と合わせてご覧になる方へ
自動スクロールはしませんので、映像に合わせてスクロールさせてご覧下さい。

コンピュータが 私たちの周りの世界について 情報交換する研究をしています やり方はたくさんありますが 中でも私が力を入れているのは コンピュータが見て 理解したものを 語らせることです こんなシーンがあると 最近のコンピュータビジョンの アルゴリズムは 女性と犬が映っていて 女性が笑顔だ と教えてくれます またその犬がとてもかわいいとも 教えてくれるかもしれません 私はこの研究にあたって 人間がどのように世界を理解し 処理するのか考えます このようなシーンを見た時に 人間が引き起こす 思考や記憶、物語などです 関係するシチュエーションのすべてを お互いにつなぎ合わせることです みなさんもこれまでに こんな犬を見たことがあるでしょう こんなビーチで 走ったことがあるかもしれません 休暇のときに考えたことや記憶 ビーチで過ごした時間 別の犬と走り回った思い出なども 思い起こしたかもしれません 私の基本理念の一つは このような経験の意味を コンピュータに理解させたり 私たちが共有し 信じ 感じたものを 理解させたりすることで 私たち自身の経験を補完する方向に コンピュータ技術を進化させるという 重要な役割を担うということです

さらに深堀りしていきましょう 数年前 私はある研究を始めました 一連の画像からコンピュータに 人間らしい物語を作らせる試みです ある日のこと オーストラリア旅行のことを考えるよう コンピュータに尋ねました 画像の中から コアラを見つけました コアラが何なのか コンピュータは知りません でも「コアラが 面白い外見の動物だ」 と言ったのです また 家が焼け落ちる一連の画像を 見せたこともありました それを見てコンピュータはこう言いました 「これはすごい光景だ!壮観だ!」 私の背筋が凍りました コンピュータが見たものは 命の危険を 伴うような恐ろしい出来事ですが 何か良いことのように 解釈しているのです 画像からコントラストや 赤や黄色を認識し なにか良いことと解釈するに値すると 思ったのです そしてコンピュータがそう思ったのは 与えた画像のほとんどが 肯定的なものだったせいもあるでしょう 実際 私たちが自分の経験を 人に話すときは 肯定的な画像を共有しようとしますよね お葬式での自撮り写真なんか 見たことがありますか?

AIの研究をしていて 気づいたことがあります 数々の課題やデータセットを扱う中で コンピュータが理解できるものの中に 大きな飛躍 欠落 盲点を 生み出していました またその過程で あらゆる種類の先入観を 埋め込んでいました 限定された観点による先入観 単一のデータセットによる先入観 データ中の 人間の先入観を 反映することもあります 偏見や固定観念などです 私をその日まで導いた テクノロジーの進化を振り返ってみました 初めての カラー画像の色合いは 白人女性の皮膚の色を基準に 調整されていました 黒人の顔は 基準から外れるという意味です また 同様の先入観や盲点が 90年代に入ってもずっと続きました 同じような盲点が今日までも 続いていて 異なる人間の顔を いかに区別して 認識するかを研究する 顔認識技術の分野に見られます 今日の研究の最先端について思うのは 1つのデータセット 1つの課題に 考えを限定しがちで そのせいで さらに盲点や 先入観を生み出し AIがさらにそれを 増幅する可能性があることです

だから当時私たちは 今研究しているテクノロジーが 5年後 10年後にどう見えているかを 深く考えなければならないと思いました 人間はゆっくり進化し その間に 人間同士の関係や 周囲の環境について 問題を是正する時間があります 一方 人工知能は 信じられないほどの速さで 進化しています だから私たちは なおさら 今すぐ このことを慎重に検討し 私たち自身の盲点や先入観について よく考えなければなりません また それらが私たちのテクノロジーに どのように情報を供与するかを考え 今日のテクノロジーが 明日どのような 意味を持つのか議論しなければなりません

企業のトップや科学者は 自分たちの考えた 来るべき未来の人工知能技術に 力を注いできました スティーブン・ホーキングは 「人工知能が人類を滅ぼす可能性がある」と 警鐘を鳴らしています イーロン・マスクは 人工知能を 私たちの文明が直面する 存亡に関わる 最大級の脅威だと警告します ビル・ゲイツも 「なぜ皆が心配しないのか 理解できない」と指摘しています しかしそれらの見方は ほんの一部の意見です 数学やモデルなど 人工知能の基本的な構成要素は 誰でもアクセスして 利用できるものです 機械学習・人工知能向けの オープンソース・ツールがあり 私たちが貢献することもできます さらに個人の経験も共有できます 技術についての経験や それがどのように自分たちに関係し 興奮させるかを共有できます 大好きなものについて 意見交換ができます 技術的な側面のうち 時間が経つにつれて 次第に有益になる面や 問題を生み出す面について 私たちは展望を持って 話し合うことができます

もし私たち皆が未来への展望をもって AIに関する議論の輪を 広げることに注目すれば 現在のAIはどのようなものか これからどのようになりえるのか そして自分たちに最適な 最終結果を得るために しなければならないことについて 一般的な議論や認識が高まるでしょう 私たちは このことを 現在のテクノロジーを見て知っています スマートフォン、デジタルアシスタント そして「ルンバ」などです それらは悪でしょうか? 時にはそうかもしれません では有益なものでしょうか? そうともいえます そして すべてが同じではありません また 未来に輝くものが すでに見えます 私たちが今作り上げているものが 未来へと続きます AIの進化の道すじを切り開く ドミノ効果を作動させます

今この時 私たちは明日のAIを 形作っているのです 過去の世界を 拡張現実として蘇らせ 人間を夢中にさせる技術 また コミュニケーションが難しい時でも 経験を共有するのに役立つ技術もあります 常に変化する「ストリーミング」の性質を持つ 視覚世界の理解を基礎にした技術は 自動運転車に使われます 画像を理解し 言葉を生み出す技術は 視覚障害者が 視覚世界にアクセスすることを 支援する技術へと進化しています 同時に そうした技術が引き起こす 問題もあります 現在 ヒト生来の身体的な特徴 たとえば 皮膚の色や 顔の外見などを 解析する技術があり それで 犯罪者やテロリストかどうかを 識別しようとします ローンの承認審査のために 性別や人種に関わるデータまで含めて 大量のデータを処理する技術があります 現在私たちが見ているものは 進化し続けるAIの 一瞬をとらえたものにすぎません なぜなら 私たちは 今まさに AI進化の途上にあるからです つまり 私たちが今やったことが 将来起こることに 影響するということです

もし人間に役立つよう AIを進化させたいなら 今 ゴールと戦略を明確にして 道筋をつけなければなりません 私が期待するのは 人間やその文化 そして環境に よくなじむAIです 神経疾患などの障害を抱えていても 誰もが同じように やりがいを感じて生きることを 補助してくれる技術です その人の属性や 皮膚の色によらず うまく機能する技術です そして今日 私がお話ししてきたのは 明日へ そして10年後へと つながる技術です

AIは 様々な方向に進む可能性がありますが それらは 目的地のない 自動運転車ではありません まさに私たちが運転している車なのです いつ加速するか ブレーキを踏むか いつ曲がるか それを私たちが選ぶのです そして 未来のAIがどうなるかについても 私たちが選ぶのです AIがなれるものの可能性は広大です いろいろなものに発展するでしょう どうなるかは私たち次第です どうか考えてみてください AIのもたらすものが 私たちすべてにとって よりよいものになるよう 今何をすべきかを

ありがとうございました

(拍手)

  • テキストだけで読む
  • 元に戻す
このプレゼンテーションについて

Googleのリサーチ・サイエンティストとして、マーガレット・ミッチェルは、見たものや理解したことを人間とコミュニケートできるコンピュータの開発に従事しています。彼女は、私たちが無意識のうちにAIに埋め込んでしまっている「論理の飛躍」や「盲点」、「先入観」の危険性について語り、私たちが今日築き上げた技術が明日にどのような意味を持つのかを考えてほしいと訴えます。「現在私たちが見ているものは、進化し続けるAIの一瞬をとらえたものにすぎません」と彼女は言います。「もし人間に役立つようにAIを進化させたいなら、今ゴールと戦略を明確にして道筋をつけなければなりません」

こちらもオススメ!

フェイクニュース大国 ロシアとの戦いの中で

オルガ・ユルコヴァ

紙で出来た避難所

坂 茂

クラスター爆弾の破壊的な負の遺産

ローラ・ブシュナク

中国は買い物の未来をどう変えていくのか

アンジェラ・ワン

乳腺腫瘍を3倍も発見できるツール、そしてそれを一般に使用できない理由

デボラ・ローズ

有色人種の学生は如何にしてインポスターシンドロームに直面するか

ディナ・シモンズ

料理の錬金術

ホーマロ・カントゥ、ベン・ロシェ

退屈な時に優れたアイデアが思いつく仕組み

マヌーシュ・ゾモロディ

ドクターズゲートおすすめコンテンツ

骨関節領域における
術前シミュレーション

DICOM3次元化ソフト
骨3Dモデルを用いた
シミュレーションソフトの紹介。

by オルスリー

基礎から知る!!
骨粗鬆症の病態と治療

骨粗鬆症の基礎知識と
痛みのメカニズムなど
動画で広く紹介。

by 旭化成ファーマ

世界で信頼される医学書
メルクマニュアル

疾患及び科目別の詳細な
情報をサイト上(MSD
提供)で検索できます。

by MSD

ドクターマンガ
Doctor's History

各分野の先頭で活躍する
ドクターの半生をマンガで
描く大人気コンテンツ!

by リンクスタッフ

動画一覧へ戻る

視聴数ランキング集計期間: 3/26~4/8

TED 最新15件