月 の 上

Ethics Processing Unit

AIの事なんもわからんけど暑くて眠れないのでメモ

  • 今日の計算機はアートを行うところまで来た
  • 古典的な計算機/AIは、答えや目的のある問題を解く
  • アートや「面白い」AIは、人間が評価できる問題に挑戦する
    • アートの美しさ、面白さは人間が評価する
  • では、人間が評価できない問題については?
    • すなわち、善悪、倫理について
    • いわゆるAI倫理(AIの使い方の倫理的側面についての議論)ではなく、AIが倫理をやる
  • 倫理をやる、とは
    • 人間は、ある行動/問題の倫理的側面について議論を行う
    • AIが倫理について議論を行えればよい
      • 人間は結論だけをみて評価を行えないので、AIの思考経過を見て、人間社会に合致するかどうか判断を下すことになる
  • とはいえ、功利主義に則れば倫理も定量的な評価が可能になる?
  • 倫理処理装置(Ethics Processing Unit)
    • 多くの人々に受け入れられるような倫理的思考を行うユニット
    • アプリやWebサイトが「邪悪な挙動」をしたら弾く、とかできる
    • デジタル・エシカルウェルビーイング
      • ユーザーが非倫理的な行動をしたらiPhoneが叱ってくれる
    • 社会の倫理的なモードが変わったら評価スコアも変わってくる
    • ティムクックが "The new E2 chip is 10x more ethical than before" とか言う
  • 計算が大変すぎでは?
    • 中央に倫理サーバーが存在し、端末には倫理の結論とその思考過程のツリーが流れてくる
    • EaaS (Ethics as a Service) が登場する
      • 各倫理プロバイダごとに倫理の特色がでてくる
      • Blazing fast ethics provider
      • Prologとかで書かれてると尚良さそう
  • 倫理についてもAIが人間を追い越したらどうなる?
    • 将棋AIみたいになる?
    • AI様が提示した倫理を元に人間が行動する