Nishika AI News Letter - Issue #17

Summary

冒頭の画像は、テキストから画像を自動生成するDALLE-2が人間には理解できない内部言語を習得しているのではないか、という主張の論文中にあるFigureで、「2頭のクジラが食べ物について話すのを字幕付きで」と入力すると、「Wa ch zod rea」と話すクジラの画像が描かれ、「Wa ch zod rea」を入力すると（美味しそうな）魚などの食品の画像が描かれます。本当に内部言語と言えるかはともかく、囲碁AIなどと同様に人間が自力では気づけなかった領域に迫れそうで興味深いです。

というのは最先端の研究領域の話ですが、足元のシンプルなデータ活用でも注目すべきニュースがあります。登山地図アプリYAMAPのデータ活用により道に迷う人がゼロになった、というのはシンプルなデータ活用で大きな効果を出したという意味で注目です。実際、ビジネスのユースケースでも、シンプルなデータ活用だけでも大きな効果が出せる課題が多く眠っているはずです。（M）

Nishika AI News Letterへのご質問はこちら

※本Letterに関する質問、取り上げて欲しいトピック、自社のAI導入の相談、何でも結構です

Application

迷いやすい登山道、登山アプリのデータ解析で明らかに　登山道整備に一役

登山地図アプリ"YAMAP"の登山記録データ解析から、日本で道を間違えやすいポイント5箇所を抽出。うち2箇所に標識を設置した結果、道を間違える人がゼロになった。

難しいことをせずとも、シンプルなデータ活用で大きな効果を生んだ例として教科書に載せたいような事例です。兎にも角にもデータを蓄積することが最重要、ということを再認識させられます。

Oregon dropping AI tool used in child abuse cases

虐待やネグレクトを受ける子供の早期特定を目的とした機械学習ツールの使用が、米オレゴン州で停止された。

子供の評価について人種のバイアスがかかっており、一方で介入の必要性を判断するソーシャルワーカーには人種の多様性がない、などの批判を受けていた。

機械学習による判断で固定的なバイアスがかかるのは良くないとはいえ、保護対象とすべき事案の件数が増えソーシャルワーカーの負荷が増大していたという背景もある中で、0/1の判断ではなく、ツールと人間の共存はできなかったのかと思います。

Physical Design using Differentiable Learned Simulators

翼型の設計最適化にグラフニューラルネットワークを利用。流体シミュレーションを模倣するように学習したNNを使って、設計時のパラメタを最適化する「逆設計」を行う。

手書きスケッチをきれいな3D図面に自動変換するシステム　英国やフランスなどの研究チームが開発

手書きスケッチをCADコマンドに自動変換。NeuralNetwork(Transformer)による学習を活用。

Technology

Discovering the Hidden Vocabulary of DALLE-2

DALLE-2が人間には理解できない内部言語を習得しているのではないか、という主張の論文。「2頭のクジラが食べ物について話すのを字幕付きで」と入力すると、「Wa ch zod rea」と話すクジラの画像が描かれ、「Wa ch zod rea」を入力すると魚などの食品の画像が描かれる。

DALLE-2の学習データとなっているサブワード（単語をさらに細かく分割したもの）がたまたま表出しているだけでは、という意見もある。

「意識があると言われたAI」と「Googleの技術者」の公開された会話内容

GoogleのAI "LaMDA" との会話内容を「意識がある」と主張すべく一般公開したエンジニアが停職処分を受けた件で、その会話内容の和訳。読んでみると確かに、意識があると主張するのも理解できるようなAIらしからぬ会話が成立しています。

ただ、結局、人間も入力に対して一定の処理をして出力をするデバイスの1つなので、「人間らしく」AIが出力することについて不必要に騒ぎ立てるのは違和感を感じます。