月 の 上

Ethics Processing Unit

AIの事なんもわからんけど暑くて眠れないのでメモ

  • 今日の計算機はアートを行うところまで来た
  • 古典的な計算機/AIは、答えや目的のある問題を解く
  • アートや「面白い」AIは、人間が評価できる問題に挑戦する
    • アートの美しさ、面白さは人間が評価する
  • では、人間が評価できない問題については?
    • すなわち、善悪、倫理について
    • いわゆるAI倫理(AIの使い方の倫理的側面についての議論)ではなく、AIが倫理をやる
  • 倫理をやる、とは
    • 人間は、ある行動/問題の倫理的側面について議論を行う
    • AIが倫理について議論を行えればよい
      • 人間は結論だけをみて評価を行えないので、AIの思考経過を見て、人間社会に合致するかどうか判断を下すことになる
  • とはいえ、功利主義に則れば倫理も定量的な評価が可能になる?
  • 倫理処理装置(Ethics Processing Unit)
    • 多くの人々に受け入れられるような倫理的思考を行うユニット
    • アプリやWebサイトが「邪悪な挙動」をしたら弾く、とかできる
    • デジタル・エシカルウェルビーイング
      • ユーザーが非倫理的な行動をしたらiPhoneが叱ってくれる
    • 社会の倫理的なモードが変わったら評価スコアも変わってくる
    • ティムクックが "The new E2 chip is 10x more ethical than before" とか言う
  • 計算が大変すぎでは?
    • 中央に倫理サーバーが存在し、端末には倫理の結論とその思考過程のツリーが流れてくる
    • EaaS (Ethics as a Service) が登場する
      • 各倫理プロバイダごとに倫理の特色がでてくる
      • Blazing fast ethics provider
      • Prologとかで書かれてると尚良さそう
  • 倫理についてもAIが人間を追い越したらどうなる?
    • 将棋AIみたいになる?
    • AI様が提示した倫理を元に人間が行動する

承認欲求ではなくて、何者かになりたいという欲求と、その名前

  • 最近は承認欲求があまり無くなってしまって、雨粒や、風や草みたいな気持ちで生きている
    • 人間世界にほとんど関与していない
    • 欲がないというか、状況によってミュートされてしまった
  • いま考えると、インターネットでいう所の承認欲求ってすごく健全な欲求だったな
    • 欲求があるなら頑張れるだろ
    • 自己の成長と人間世界との関わりにたいして、正のフィードバックループが作用している
  • 承認欲求っていうと負のループを想像しがちだが
  • さっき書いたのは、承認欲求じゃなくて、何者かになりたい欲、なのかな
  • なんか呼び方あるのかな
    • 何者かになりたい欲
    • 世界に関わりてえ欲
    • 関係持ちたい欲
  • 関係、持ちたい……