マルシテイア

AIの事なんもわからんけど暑くて眠れないのでメモ

今日の計算機はアートを行うところまで来た
- 3DCG, GAN,トゥーンレンダリング
- 創るためのAI
古典的な計算機/AIは、答えや目的のある問題を解く
アートや「面白い」AIは、人間が評価できる問題に挑戦する
- アートの美しさ、面白さは人間が評価する
では、人間が評価できない問題については？
- すなわち、善悪、倫理について
- いわゆるAI倫理（AIの使い方の倫理的側面についての議論）ではなく、AIが倫理をやる
倫理をやる、とは
- 人間は、ある行動/問題の倫理的側面について議論を行う
- AIが倫理について議論を行えればよい
  - 人間は結論だけをみて評価を行えないので、AIの思考経過を見て、人間社会に合致するかどうか判断を下すことになる
とはいえ、功利主義に則れば倫理も定量的な評価が可能になる？
- 倫理ベンチマークを回すことになる
  - トロッコ問題みたいな倫理クイズがたくさん詰まった最悪の倫理データセット
倫理処理装置（Ethics Processing Unit）
- 多くの人々に受け入れられるような倫理的思考を行うユニット
- アプリやWebサイトが「邪悪な挙動」をしたら弾く、とかできる
- デジタル・エシカル・ウェルビーイング
  - ユーザーが非倫理的な行動をしたらiPhoneが叱ってくれる
- 社会の倫理的なモードが変わったら評価スコアも変わってくる
- ティムクックが "The new E2 chip is 10x more ethical than before" とか言う
計算が大変すぎでは？
- 中央に倫理サーバーが存在し、端末には倫理の結論とその思考過程のツリーが流れてくる
  - 倫理計算過程をブロックチェーンで表現（であるからしてチェーン）
    - A -> 故にB -> 故にC
    - これ人力でもいけるな
      - 倫理トランザクション
      - Aさんが現在の倫理計算過程 a の続きをBさんに渡す
      - Bさんの倫理結果 b にAさんが合意
      - a -> 故にb というトランザクションが発生
      - 伝言ゲームなので一瞬で破綻しそう
- EaaS (Ethics as a Service) が登場する
  - 各倫理プロバイダごとに倫理の特色がでてくる
  - Blazing fast ethics provider
  - Prologとかで書かれてると尚良さそう
倫理についてもAIが人間を追い越したらどうなる？
- 将棋AIみたいになる？
- AI様が提示した倫理を元に人間が行動する

最近は承認欲求があまり無くなってしまって、雨粒や、風や草みたいな気持ちで生きている
- 人間世界にほとんど関与していない
- 欲がないというか、状況によってミュートされてしまった
いま考えると、インターネットでいう所の承認欲求ってすごく健全な欲求だったな
- 欲求があるなら頑張れるだろ
- 自己の成長と人間世界との関わりにたいして、正のフィードバックループが作用している
承認欲求っていうと負のループを想像しがちだが
さっき書いたのは、承認欲求じゃなくて、何者かになりたい欲、なのかな
なんか呼び方あるのかな
- 何者かになりたい欲
- 世界に関わりてえ欲
- 関係持ちたい欲
関係、持ちたい……