秋葉原の麺屋武蔵でラーメン食べるために、
1時間ほど早く16:14に南流山を出発。
16:50到着。
濃厚武仁つけ麺 1650円を注文
美味しいけど高いなぁ。
17:25 国際ビルに到着
マクドナルドで時間をつぶす。
これで540円も高いなぁ
国際ビル2階 K-1に18:10に到着。
最前列に着席
ということで安藤先生の授業です。
■人間中心AI
①人間中心のAI
国際問題になっている
内閣府「人間中心のAI社会原則」(2019年3月)
https://www8.cao.go.jp/cstp/ai/aigensoku.pdf
人間中心の原則
• AIは、労働の一部の代替だけでなく、高度な道具として人間を補助し人間の能力や創造性を
拡大する
• AIの利用の結果について、問題の特性に応じて、AIの開発・提供・利用のステークホルダー
が分担して責任を負う
• 各ステークホルダーは「情報弱者」や「技術弱者」を出さないよう使いやすいシステムの
実現に配慮する
この原則での“人間中心”とは、基本的人権や多様性の尊重、公平・公正といったことを示す言葉として用いられている。
※ユーザーも責任を負う
・HCAIのグランドチャレンジ
世界の研究者ら26人は、HCAIを実現するための６つの課題を提示している
https://www.tandfonline.com/doi/full/10.1080/10447318.2022.2153320#d1e645
・人間中心AIの議論の全体像（Capel & Brereton, 2024）
そもそも人間中心とは
・3つの人間中心
黒須（2020）によると “人間中心”の考え方は、歴史的経緯から3つある。
・人類中心主義（人間中心主義：anthropocentricism）：
• 人類（人間）が諸物の中心であり、他の生物を含む自然界の覇者であると見なす考え方
→（人間中心批判はだいたいこの意味）
・人間中心システム：
• Cooley（1934）が提供した考え方で、主に生産現場を想定し、
科学技術の進歩に対して人間性の復権を主張するような考え方
• テーラリズム（労働者を生産部品と見なすような考え）に対する考え方
・人間中心設計：
• 消費経済の領域に及んで人工物の利用者に人間らしい生活を提供するために、
最適な人工物を作ろうとする考え方
• 商品中心主義や技術中心主義に対する考え方と言って良い
※なぜ「脱」しないといけないのか
・ISOにおける“人間中心”
ISOでは“人間中心”の規格が複数ある。
特にISO9241-210はシステムの人間中心設計の規格でありAIと直接関連する。
ISO 9241-210: 2019
ISO 9241-220: 2019
ISO 27500: 2016
ISO 27501: 2019
・ISO 9241-210による人間中心設計の考え方
システムの使用に焦点を当て，人間工学（ユーザビリティを含む）の知識及び技法とを適用することによって，インタラクティブシステムをより使いやすくすることを目的とするシステムの設計及び開発へのアプローチ
※使う人と作る人が別になっている
・ISO 9241-210による人間中心設計の考え方
・利用状況こそ重要な視点
【Levinの行動の法則】
B：生活空間での行動
P：個人的特性条件
E：環境条件
B = f (P・E)
※安藤先生が脱衣所のヒーターで火事を起こしそうになった。
→環境の問題
人間の特性だけでなく、人を含めた環境との相互作用として
利用状況を捉えることがHCDの“人間中心”のコアコンセプト
・Giacominによる人間中心設計の考え方
システムが想定する範囲の対話に限定せず、個人が利用したことにより生じる意味性をも考慮する考え方を提案した。
Giacominの人間中心設計ピラミッド
利用状況のうち人に焦点を当て、結果的に生み出される記号や
コミュニケーション、ディスコース及び意味を重視する
HCDにおける人間中心とは
・ ISO9241-210：
‒ 人間：ユーザーおよびステークホルダーを含めた利用状況として、
関係や文脈を含めた存在として捉える
‒ 中心：開発する組織的プロセスにおいて利用状況を重視し、ユーザー
参加の開発を行うという、組織における優先事項を表現
・GiacominのHCD：
– 人間：人と人工物との関わり、周囲の関係者との関わりに視点を置き
つつ、意味や意味を生み出すディスコースに及んで捉える
– 中心：上記の意味を重視して設計するという表現
→AIシステムではシステムの関わりが変化するため、
システム構築前に変化を想定し利用状況を把握するのは困難
→“意味”は扱うことはできるが、どう扱えば良いだろうか？
②人間中心AIの設計の目標
・マン・マシン・システム
ほとんどの人工システムは、人と機械装置とが機能的に統合している。
こうした系のシステムをマン・マシン・システム（MMS）と呼ぶ。
・HITL, HOTL, HOOTL
システムと人間との関わりを考える際に、３つのパターンがある。
・Human in the Loop ｜HITL
•人間がシステムの処理ループに組み込まれていて、動作のトリガーは人間が行う
・Human on the Loop ｜HOTL
•ほとんどの処理はAI システムが自律的に行う。ただし、何時でも人間の介入を受け入れる
・Human out of the Loop ｜HOOTL
•人間の承認や意思決定なしにAI システムが自律的に処理を行う。人間の介入を受け入れない
人間中心AI（HCAI）は、HOOTLを目指さない
HITLの例：ダビンチ
参考：黒須正明『ヒューマンフレンドリーなAIとデザイナーの仕事』講演資料より, 2023
（画像出所：https://www.hokuyu-aoth.org/special/davinci/）
HOTLの例：配膳ロボット
参考：黒須正明『ヒューマンフレンドリーなAIとデザイナーの仕事』講演資料より, 2023
（画像出所：https://www.yomiuri.co.jp/economy/20211018-OYT1T50201/）
HOOTLの例（完全ではないが）：掃除ロボット
基本的な処理は自動に行われ、人間は処理ループの中に含まれない。
ただしシステム全体をモニターでき必要に応じて介入する
参考：黒須正明『ヒューマンフレンドリーなAIとデザイナーの仕事』講演資料より, 2023
（画像出所：https://kakakumag.com/seikatsu-kaden/?id=12258）
■シュナイダーマンのHCAIフレームワーク
UIデザインの教科書で著名なシュナイダーマンは、人間中心のAIのあり方として人間を系に
含んだ姿として位置付けた。
道具としての人工知能＝人を系の中に置のものとして位置付ける
■人間中心AI（HCAI）の設計目標
Xu(2019)は、HCAIの設計目標を5つに整理し提案している。
■人間中心AI（HCAI）の方法論フレームワーク
Xu & Gao (2024)は、さらに発展させ以下のような方法論
のフレームワークを提示している
1.スケーラブルなAI
2.人間が制御するAI
3.信頼できるAI
4.使いやすいAI
5.有用なAI
6.人間の能力の拡張
7.責任あるAI
■人間中心AIに関する動向
・世界的に人間中心AI（HCAI）を実現するための研究や実践がおこなわれている。
・課題は整理されており、ELSI（倫理的・法的・社会的な課題）を含め議論がなされている。
・だが、使い手であるユーザーの役割や関わりの変化をいかに捉えるべきかについて
（利用状況）は、あまり議論されていない。
③人口知能の味方
■人工知能と人間との関係
「人工知能」の捉え方はコミュニティごとに異なる。
江間は境界線上の物体＝バウンダリーオブジェクトとして人工知能を位置付けとらえている。
■人工知能に対する2つの見方
人工知能に対する課題はさまざまに指摘されているが、大きく2つの見方がある。
① 「人工知能を、汎用性があり自律的な知能をもつもの」
「人間に置き換わることが可能であるようなエージェント」
② 「人工知能を一種の道具」「人間に置き換わることではなく、火や自動車、
携帯電話などと同じように、人間の能力を高め、拡張する」
（鈴木貴之編, 『人工知能とどうつきあうか：哲学から考える』,勁草書房, 2023）
人工知能は客体的な人工物
■李（元google中国社長）は、2041年でもAIの３つの苦手分野は
克服されていないと予想するが、どうだろうか？
1.創造性
AIは創造、概念化、戦略策定ができない。目標を絞って最適化するのは得意だが、
自ら目標を選んだり、創造的に考えることはできない。
2.共感
共感や同情を感じられない。その感覚を踏まえてやりとりすることができない。
そのため相手に理解されている、大切にされていると感じさせることもできない。
3.器用さ
手先の器用さや目と手の正確な連携が求められる複雑な身体作業は、
AIとロボット技術では達成できない。未知の空間や構造化されていない空間、特に
過去に見たことのない空間にはAIは対応できない。
（李, 陳, 中原訳『AI2021 人工知能が変える20年後の未来』, 文藝春秋, 2022）
→ちょと内容は違っている
■グループワーク
AIによって無くなるのは“職業ではなくタスクだ”と言われて
いる。しかしタスクの捉え方が人によって違う
個人ワーク：10分
・起きてから寝るまでの「タスク」を書き出す
・たまに行う「タスク」も書いてみる（旅行など）
・例：「歯を磨く」「議事録をまとめる」「ホテルを予約する」など
タスクを付箋に書き出す
平城さん
板垣さん
宮下さん
松崎でグループワーク
３分野に分ける
分けたら見返す
かなりAIに任せたい。に集約されました。
・任せたくないけど任せられないこと
→仕事とか
→ペットの世話とか
→嗜好品
・任せたいこと
→だいたいの生活
→車の運転とか。
だいたいどのチームも似たような感じでした。
■AIによるアクティビティの重心変化
道具としてのAIは、これまで人の行動の中に埋め込まれていたAction, Operation を希薄化し、
相対的にActivity に焦点が当たる
・Activity
・Motive
・Goal
・Conditions
・Operation
・Action
アクティビティの階層構造
（Lindblom & Alenjung, 2020）
※見るべきところは「状況」
これまで以上に考えないといけなくなる
■まとめ
人間中心のAIシステムは、人間の本来の役割を露呈させる
いうなれば人間性への気づきを動機づけるものになる
・ユーザーが認識していなかった本来の役割・態度への気づきは、
システムだけで実現できるものではない。
・「システム作りは関係性作り」
作り手のあり方から変わっていく必要があるのではないか。
・AIによって突きつけられて炙り出される「人間性」。
果たして「人間性」とはなんだろうか？
■AIでの要約
- 人間中心AIの原則と考え方 人間中心のAIは、AIが人間の能力を拡大し、創造性を助ける高度な道具であるべきだとしています。
AIの利用結果には開発者や提供者、利用者が責任を持つ必要があり、情報や技術に弱い人々に配慮した使いやすいシステム作りが求められます。
“人間中心”とは、人間の基本的な権利や多様性、公平性を尊重することを指します。 - 人間中心AIの設計目標 AIシステムは「マン・マシン・システム（MMS）」として、人間と機械が統合的に機能することを目指します。
AIと人間の関わりには3つのパターンがあり、HITL（Human in the Loop）、HOTL（Human on the Loop）、HOOTL（Human out of the Loop）のいずれかで設計されます。人間中心AIはHOOTLを目指しません。
システムの利用状況、つまり人間の行動と環境の相互作用を重視し、ユーザーの視点を中心に設計することが求められます。 - AIと人間の関係 人工知能に対する見方は2つに分かれます。一つはAIが人間に置き換わる汎用的な自律的知能を持つ存在であるという見方、もう一つはAIは人間の能力を高める道具に過ぎないという見方です。
AIは現時点で創造性や共感、身体的器用さなどの分野で限界があり、これらは人間の特性として残ると予想されています。 - 人間中心AIの方法論フレームワーク Xu & Gao（2024）は、人間中心AIの設計目標として「スケーラブルなAI」「人間が制御するAI」「信頼できるAI」「使いやすいAI」「有用なAI」などを提案しています。
これらはAIがどのように人間に役立ち、共生するかを示すための枠組みです。 - AIによるアクティビティの重心変化 AIはこれまでの人間の「行動」や「操作」をサポートする道具として機能し、今後は「アクティビティ」に焦点を当てるようになるとされています。アクティビティの設計には状況の変化をしっかりと捉えることが重要です。
- まとめ 人間中心AIは人間性に気づくきっかけを与える可能性があり、AIによって人間本来の役割や態度への気づきが促進されるでしょう。
システム作りは単に技術的な側面だけでなく、関係性やユーザーの視点を重視する必要があり、作り手のあり方も変わるべきだという提言がなされています。
全体として、AIの設計と利用において「人間中心」であることの重要性と、それに伴う課題を深く考察しています。
コメント