Nishika AI News Letter - Issue #14
Summary
メルペイ後払いサービスの限度額が、AI与信により100円となったユーザーが多発したニュースは、AI運用のトピックとしても、そもそもの顧客との向かい方を考えるトピックとしても注目です。
救急救命の現場でのAIの利用や、ロボタクシーの有償サービス開始など、諸外国でのAI実運用は本当に進んでいるなと感じます。
Elon Musk氏がTwitter社を買収しましたが、彼が主張する表示ランキングアルゴリズムの公開が本当になされるのかも個人的には注目しています。（M）
Nishika AI News Letterへのご質問はこちら
※本Letterに関する質問、取り上げて欲しいトピック、自社のAI導入の相談、何でも結構です
Application
メルペイ後払い 限度額が突然「100円」に？ 背景にAI与信の判断あり
メルペイ後払いサービスの限度額をAIが判定するモデルを導入したところ、限度額100円となるユーザーが多発したというニュース。100円というのは、つまり当該ユーザーに対してはサービスを使って欲しくないということで、なかなか強烈なメッセージです。
AIモデルの推論結果をそのまま採用したのか、一定の閾値以下で100円となるようにマニュアルで操作したのかは分かりませんが、もしAIモデルの推論結果をそのまま採用しておりかつそれが意図通りでないなら、初歩的なAI運用のミスと言わざるを得ません。
一方で、天下のメルカリさんがそのような初歩的なミスをするはずもないと思いますので、「限度額100円」は意図通りな気がします。やはり後払いサービスを利用してほしくないユーザーを篩い落とす意図がありそうです。
AI運用のミスであれば典型的なケーススタディとして使えるニュースですが、AIの話を超えて顧客との向き合い方を考えさせられるトピックです。
How Hospitals Are Using AI to Save Lives
Duke大学では、救急救命室の全患者について敗血症の発症リスクを5分ごとに更新、看護師に提示するシステムが既に現場で使われている。
Baidu, Pony.ai approved for robotaxi services in Beijing
Pony.aiが、中国で初めて有償のロボタクシー（無人自動運転タクシー）サービスの認可を取得。
Intelligent Speed Assistance specifications officially published
EUでは2024までに全ての新車に緊急時の自動ブレーキ、車線維持、速度制御、居眠りや注意散漫のドライバーの検出などが義務付けられる。
全ての新車に義務付けということで相当な市場規模が見込まれますが、危険行動にも顔認識などと同様に国ごとに異なる特性がありそうで、一企業寡占とはいかなさそうです。
iBuyer Activity in 2021 Doubled from Pre-Coronavirus Levels
米国では、iBuyersと呼ばれる「アルゴリズムによる住宅価格設定モデル」を用いて売買された割合は1%。かつ、古い物件や定型的でない物件に対しては使用されない傾向がある。
割合を高いと見るか低いと見るかですが、まだ市場にpenetrateはしていないなと感じるFactです。
Editor Picks
Should the ranking algorithm be kept secret or not?
Twitter社をElon Musk氏が買収したニュースが全世界を駆け巡りました。Musk氏の主張の1つには、Twitterの表示ランキングアルゴリズムのオープンソース化があります。Courseraの創始者等として知られる人工知能研究者のAndrew Ng先生は、Musk氏が提案するランキングアルゴリズム公開に「直感的には」賛意とのこと（但し、データは公開せずコードだけ公開する）。
Andrew先生も書かれていますが、アルゴリズム公開にはメリデメがあります。メリットとしては、アルゴリズムの公開によって多くの人からフィードバックを得られ、アルゴリズムがより中立・公正なものとなっていくことなどがあります。一方デメリットとしては、多くの意見が寄せられることでアルゴリズム改善のスピードが失われること、また多額の投資の効果が競争優位性の観点で薄れてしまうこと、などがあります。
難しい問題ですが、私の直感はデメリットを重く見て「公開すべきではない」です。皆様はどう思われるでしょうか？