オートメーション・バカ – 先端技術がわたしたちにしていること

  • 著者名:ニコラス・G・カー 著,篠儀直子訳
  • 発行所:青土社
  • 発行年:2015
  • 価格:2,200円

学会仕事で上記書籍の書評を書くことになった.そのうち会誌に載ることになっているが,せっかくなのでここにも載せておこう.


PCやスマートフォンの日本語入力システムに慣れてしまい,いざ手書きで漢字を書こうとしたときに思い出せないという経験をしたことはないだろうか.本書はオートメーション,特にデジタル・オートメーションの負の側面に関して論じた書籍である.

わたしたちは,人間がやっていたことをソフトウェアに代替させることで,作業の効率化や余剰リソースの獲得を期待している.たしかに,デジタル・オートメーションは,快適さや便利さをもたらしてくれる.今や創造的作業や分析的作業も,ソフトウェアによって代替されつつある.ところが,オートメーションは必ずしも良い方向に働くとは限らない.本書では,認知的,文化的,倫理的側面から,デジタル・オートメーション技術がもたらす負の影響を考察している.キャッチーな書名とは裏腹に,中身は医学,ヒューマンファクター,文化人類学,哲学など,様々な分野の研究事例に基づいた議論が展開されており,骨太な内容となっている.

本書は9章から構成されている.第1章では,オートメーションがもたらす便益とリスクについて概説している.第2章では,ラッダイト運動,フォード社の生産ラインのオートメーション化,第2次世界大戦中の砲兵部隊などの例を通じて,オートメーションが労働のあり方,労働者のアイデンティティに与える影響について述べている.第3章では,飛行機のオートパイロットを例にとり,オートメーションが肉体的負担を軽減する一方で,肉体的負担によって維持されていた運動能力,そして認知能力までもを弱体化させる可能性について述べている.第4章では「生成効果」とオートメーションの関係について論じている.エキスパートシステムや検索エンジンといった意思決定支援システムの例を取り上げ,それらの継続的な利用が認知能力や新しい状況への適応能力を低下させる可能性について,認知心理学的現象から説明を試みている.第5章では,電子カルテとその関連システムの導入事例を通じて,デジタル・オートメーションへの過度な信頼が(利用者の感覚も含め)システムの外にある情報への感度を低下させるだけでなく,因果を見いだすスキルを鍛える機会を奪ってしまうことに警鐘を鳴らしている.第6章では,オートメーションによる脱身体化,および世界に対する認識や所属の感覚の変化について述べている.第7章では,作業の正確さと経済性を拡張する「テクノロジー中心のオートメーション」に対するアンチテーゼとして,「人間中心のオートメーション」を提示している.第8章では,オートメーションに潜む倫理的課題について述べ,最終章では,これまでの話を総括しながら,生産の手段ではなく経験の道具としてのテクノロジーを取り戻すことの重要性を説いている.

オートメーションがもたらす負の側面について様々な角度から議論を展開している本書であるが,そのメッセージは「オートメーションには想像以上に様々なリスクがあるので利用を控えよう,あるいはよく考えて使いましょう」といった単純なものではない.たしかに,労働力の節約のためのテクノロジーは魅惑的である.しかし,著者が述べているように,オートメーションは負担を軽減する一方で,知覚や行動,想像力に新たな道を開く機会からわたしたちを遠ざける.

テクノロジーについての決断は,生活や文化のあり方に関する決断でもある.AIやDXといった言葉が世を賑わしているが,それらは本当にわたしたちを幸せにするのであろうか.人間が生きるにあたって何が重要であるか,そもそもわたしたちはどんな存在でありたいのか — 本書はこう問いかけているように感じる.本書のメッセージをアンチ・テクノロジー派の誇大な主張であると退けるのは簡単である.しかし,AI・DXといった技術に過度な期待が集まっている今日だからこそ,情報技術に携わる技術者・研究者は,人と技術の共生的な関係について,すこし立ち止まって考える機会があってもよいのでは,と思う次第である.

具体と抽象

研究室の学生に具体と抽象の話を学んでもらう材料を探しのために,Amazonで高評価を集めていた「具体と抽象(細谷功著)」を読んだ.

内容は「具体」と「抽象」の意味やその特性を,実例をもって分かりやすく語るというも.本自体が具体と抽象を行き来する構成となっている.

オブジェクト指向を学んでいれば,本の内容のほとんどはそれのエッセンスであることに気付く.ただし,オブジェクト指向を「クラスや継承,カプセル化とか使うプログラミングの手法」としか見れてない人は,この本を読んでも「具体と抽象」とは何かが分からないだろうなと思う.

具体と抽象の話が分かる人にとっては,本書の内容はそれほど新鮮ではないが,個人的に得るものがあったのは「具体と抽象が分からない人とのつきあい方」に関する章である.具体の世界で生きている人に本質を抽出した抽象論の話をしても,「曖昧なことを言っていて分かりにくい」と思われてしまう.そもそも,具体の世界でのみ生きている人は,具体と抽象を行き来することが難しい.そのため,具体とセットとしてその抽象の話をしても,その間の関係性が捉えられない.分かりやすく具体と抽象をセットに話していたとしても,別のことを話しているとすら思われてしまうのである.具体を豊富にしても,抽象を捉えられなければ,具体のみで生きる人と抽象の世界と行き来している人の間を埋めることはできない.ジレンマである.

本書を読んで誤解を受けそうだなと思ったのが,「抽象度と本質度の関係」である.本書では抽象的にものごとを考えること(プラス,具体と抽象の行き来)の重要性を説いているため,どうしても「抽象化は素晴らしい」「抽象化された内容は本質を捉えている」という印象を与えてしまう.しかし,抽象度と本質度(価値)はイコールではない.抽象的でも本質的でない事柄は存在する.抽象度を上げすぎて,当たり前のことしか言えていないケースもちょくちょく遭遇する.一方で,具体的でも本質につながることは存在する.

(これは本書でも述べられているが)そもそも,具体と抽象は相対的な関係である.重要なことは,具体と抽象を行き来しながら,適切なレベルで抽象化を行い,その中から議論の価値がある本質的な事柄を選べるかだと思う.

聖の青春

村山聖さんの一生について書かれた「聖の青春」を読んだ.村山聖さんの歴史を知りたくて読み始めたのだが,岡本太郎氏の「自分の中に毒を持て」と同じくらい,生きるとは何かを根っこから考えさせる本だった.以下,引用.一番印象的だったのは以下の文.

人間は悲しみ、苦しむために生まれた。 それが人間の宿命であり、幸せだ。僕は、死んでも、もう一度人間に生まれたい。(大崎善生著「聖の青春」より)

次の文は一番印象に残ったわけではないが,読みかえると研究にも役立つので,ここに残しておく.

定跡の学習や、終盤力の強化はもちろん必要である。しかし、それは将棋の本質からは二義的なものなのである。では一義は何か。それは生きるか死ぬか、殺すか殺されるか。(大崎善生著「聖の青春」より)

これを以下のように読みかえる.

最新のテクニックや実験手法の学習,論文の書き方の強化はもちろん必要である.しかし,それは研究の本質からは二義的なものなのである.では,一義は何か.それは「未踏」であるか.デルタ研究に墜ちてないか.


現在,藤井聡太2冠を含め,渡辺名人,豊島竜王,永瀬2冠と若手棋士が大活躍しているが,その中で今年50歳の羽生善治さんがレーティング6位で奮闘しているのがすごい.もし同年代の村山聖さんが生きておられたら,今の将棋界の勢力図がどうなっていたのだろうか.藤井聡太さんと村山聖さんの戦い,見たかったなぁ…

忘却の整理学

忘却研究の息抜きとして,外山滋比古氏の忘却の整理学を読んだ.

結びにある「忘却は自由への道を拓くもの」という言葉が,本書のすべてを語っている.知的メタボリック症候群に陥っている人は,知識に縛られ思考を自由にすることが難しい.忘却が余計な情報,知識,雑念をそぎ落とし,頭の中を整理,再構成してくれることで,嫌なことを忘れ,過去をイイ感じに美化し,自由な発想でものごとを考えるように導いてくれるのだろう.

メモ:「よく学び,よく遊べ」ではなく「よく遊び,よく学べ」

ドーナツとフィルター

静岡大学浜松キャンパス附属図書館にキャリアに関連した書籍を推薦する機会をいただいた。何を推薦してもよいとのことだったので、大阪大学ショセキカプロジェクトの「ドーナツを穴だけ残して食べる方法」を推薦した。

推薦文は150字で書くよう依頼があったので、もともと400字程度あった推薦文は削ることになった。せっかくなので、ここに圧縮前の推薦文を残すことにする。


ドーナツを穴だけ残して食べるには?くだらない、でも何故か気になるこの問題について、工学、数学、哲学などの専門家がそれぞれの立場からきわめて真面目に考える。これが本書の趣旨です。本書を読むと「面白いことに取り組むにはフィルターを外すこと」が重要ということに気付かされます。

ものごとを考えるとき、私たちは先入観というフィルターに縛れがちです。そのフィルターのせいで、より良い選択肢を逃してしまっていることもしばしば。進路の選択もその一例です。「情報学部に入ったら就職先はIT企業、職業はSE、プログラマ」 — こんなふうに選択肢を縛ってしまうことは非常にもったいない。皆さんが学んでいる知識やスキルは、思った以上に専門分野の外側で求められています。やりがいのある仕事、自分に合った働き方を見つけるためにも、一度「フィルター」を外してみてください。今まで考えてもみなかった仕事や働き方が見つかるかもしれません。

「ファスト & スロー」14章のトム・W問題のベイズ推定について

研究室で輪読中の「ファスト & スロー」の14章で、直感(代表性ヒューリスティクス)を制御する方法としてベイズ推定を用いる話題が紹介されていた。同じ章で用いられている例題「トム・W問題」にベイズ推定を適用してみたときに基準率がどうなるかが解説されているのだが、学生から本の説明を読んでもよく分からなかったという報告を受けた。

淡々とベイズの定理を適用するだけだろうと思っていたのだが、たしかに問題文や解説文を読んで自分でベイズ推定をしてみようとしたが、何だかおかしい。小一時間考えてみたが、問題文の日本語訳が紛らわしい(誤訳?)ことがモヤモヤの原因だと分かった。来年以降も同じ事を学生に聞かれそうなので、僕なりの解釈を以下にまとめておこう。

トム・W問題について

トム・W問題とはある大学院生トム・Wに関する記述が与えられたときに、トムの専攻分野をコンピュータ科学を含むいくつかの分野から選択するという問題である。「ファスト&スロー日本語訳」で書かれているトム・Wに関する記述は以下の通り:

トム・Wはとても頭がよいが、創造性には欠ける。秩序や明晰さを好み、あらゆる細かい要素までしかるべき場所におさまっていて、万事がきれいに説明できるシステムを愛する。彼の書く文章はかなり単調で機械的であり、たまに陳腐な駄洒落じゃSFもどきの想像力が発揮されるにとどまる。彼は能力向上にはきわめて熱心である。他人のことにあまり関心がなく、同情心は薄いように見える。人付き合いを楽しむタイプではない。自己中心的ではあるが、倫理観はしっかりしている。(原文ママ)

この記述が与えられたときに、問題を与えられた人はたいていの場合、代表性ヒューリスティックを用いて意思決定を行ってしまい、その結果トムの専攻を「コンピュータ科学」と答えてしまう。合理的(統計的)判断を下すためにはベイズ推定を用いるのが一つのアプローチであるというのが本書の主張。以下は「ファスト&スロー日本語訳」でのベイズ推定アプローチに関する記述である:

ベイズ・ルールは、事前確率(本章の例では基準率がこれに該当する)に証拠の診断結果(相反する仮説が実現する見込み)を加味する手順を定めている。たとえばあなたは、大学院生の3%(基準率)がコンピュータ・サイエンス専攻だと考えているとしよう。そしてトム・Wの人物描写(=証拠)を読んだ後に、コンピュータ・サイエンス専攻の可能性は他分野よりも4倍高いと考えたとする。するとベイズ・ルールにより、トム・Wがコンピュータ・サイエンス専攻の確率(事後確率)は11%になる(原文ママ)。

問題の問題

脚注ではオッズや尤度比を用いた解説が書かれているのだが、愚直にベイズの定理を使って解くのがよいと思ったので、その方法で考えてみる。今、
* θ: 大学院生がコンピュータ科学を専攻しているという事象
* ¬θ: 大学院生がコンピュータ科学を専攻していないという事象
* D: トム・Wの人物記述(人となり)情報が得られたという事象
とする。ベイズの定理によって、トム・Wに関する人物記述が得られたときにトム・Wがコンピュータ科学を専攻していると思われる確率P(θ | D)は以下となる:

$$ P(\theta | D)   =   \frac{P(D | \theta)P(\theta)}{\sum_{\theta} P(D | \theta)P(\theta)} =  \frac{P(D | \theta)P(\theta)}{P(D | \theta)P(\theta) + P(D | \overline{\theta})P(\overline{\theta}) } $$

以上と問題文を対応させていけば解けると思っていたが、問題は尤度(P(θ | D))である。脚注の解説を読むと、「トム・Wの人物描写(=証拠)を読んだ後に、コンピュータ・サイエンス専攻の可能性は他分野よりも4倍高いと考えたとする」という箇所が尤度に関する情報を扱っているようなのだが、これって何を言っているのか?これは尤度だろうか?僕にはこの説明は尤度でなく事後確率の説明をしているようにしか見えない… 翻訳前の文章を見て悩みが解決した。この箇所に関する元の文章は以下の通り:

… and you also believe that the description of Tom W is 4 times more likely for a graduate student in that field than in other fields, then …

これを読むと、「トム・Wの人物描写(=証拠)を読んだ後に、コンピュータ・サイエンス専攻の可能性は他分野よりも4倍高いと考えたとする」ではなく、「あるコンピュータ科学専攻の学生にトム・Wの人物描写が当てはまる確率は、コンピュータ科学以外を専攻しているある学生に対してトム・Wの人物描写が当てはまる確率の4倍である」と書いてある。これならば尤度を計算できそう。僕が当初考えていた変数設定を使うと、上記英文は

$$P(D | \theta) : P(D | \overline{\theta}) = 4:1$$

となるので、ベイズ推定ができそう。

ベイズ推定によるトム・W問題の事後確率推定

これで準備が整った。問題設定を数式で表現すると、以下のようになる。

  • 大学院生の3%(基準率)がコンピュータ・サイエンス専攻だと考えている:P(θ | D)=0.03
  • あるコンピュータ科学専攻の学生に対してトム・Wの人物描写が当てはまる確率は、コンピュータ科学以外を専攻しているある学生に対してトム・Wの人物描写が当てはまる確率の4倍である: P(D | θ) : P(D | ¬θ) = 4:1

あとは、ベイズの定理に上の式を使う。

$$ P(\theta | D)   =   \frac{P(D | \theta)P(\theta)}{\sum_{\theta} P(D | \theta)P(\theta)} =  \frac{P(D | \theta)P(\theta)}{P(D | \theta)P(\theta) + P(D | \overline{\theta})P(\overline{\theta}) } $$

$$  =  \frac{0.03 \cdot P(D | \theta)}{0.03 \cdot P(D | \theta) + 0.97 \cdot P(D | \overline{\theta})} $$

$$  =  \frac{0.03 \cdot P(D | \theta)}{0.03 \cdot P(D | \theta) + 0.97 \cdot 0.25 \cdot P(D | \theta)} = 0.11$$

これで基準率(事前確率)3%でトム・Wの人物描写を見たら、事後確率が11%になり、基準率が3%から11%に修正されたと言える。めでたしめでたし。

ごめんなさい、もしあなたがちょっとでも 行き詰まりを感じているなら、 不便をとり入れてみてはどうですか?

本作の表紙(Amazon.co.jpより)

ここ1ヶ月くらい不便益について考えてみてはモヤモヤしている。自分なりにある程度考えるまでは不便益本は読まないでおこうと思っていたのだが、どうもモヤモヤが取れないので「不便から生まれるデザイン」を読んでみた。やっぱりモヤモヤが残った。ここまできたらもはや解禁ということで、川上浩司さんの不便益本の2冊目「ごめんなさい、もしあなたがちょっとでも 行き詰まりを感じているなら、 不便をとり入れてみてはどうですか?」を読んでみた。

前作では、不便益という概念をまとめるために試行錯誤されている感が本全体から伝わってきたが、本作はコラム・エッセイ的要素が削られ、ずいぶんと不便益が整理された印象を受けた(文章も平易になった)。おかげで僕の頭の中も大分整理することができた。

以下は本作のメモを記す。

Continue reading “ごめんなさい、もしあなたがちょっとでも 行き詰まりを感じているなら、 不便をとり入れてみてはどうですか?”

不便から生まれるデザイン

不便から生まれるデザイン(Amazonより)

行動や態度変容を促すデザインのヒントを考えていたときに、たまたま出会ったのが川上浩司さんが提唱されている「不便益デザイン」という考え方。不便益とは「不便がもたらす効用」を意味する。「乗り物を使った方が楽だが、歩いてみると乗り物に乗っていたときには気づかなかったものを発見できた」など、不便だと思われていることもやりよう、実は良いこともあるのではというのが不便益である。この不便益の考え方をもちいて「豊かな」モノやサービスを作るデザイン手法を川上浩司さんは研究されている。

態度・行動変容のアイデアを生み出すには、常識的な考え方だけでなく不便益のような別の角度の考え方が必要だと思っていた。また「便利を追求することで、実は失っているものがあるのでは」「便利ではなく豊かさを実現するためのデザイン手法は何か」という考え方は、僕の問題意識と通ずるところがあった。

ということで、「不便から生まれるデザイン〜工学に活かす常識を越えた発想」を読んでみた。以下はその際のメモである。

Continue reading “不便から生まれるデザイン”

仕掛学

電柱柱のミニ鳥居(フォト蔵の@kyu3さんの写真より)

上の写真のように、街を歩いているとあれっと思うところに小さな鳥居が設けられていることがある。これ、「神聖な場所で悪い行いをしてはいけない」という感情を抱かせることで、立ち小便やゴミのポイ捨てを防ぐ工夫だそうだ。

このように、ある仕組みを入れることで、本人が意識しているか否かにかかわらず、人の行動を自然と違う方向に向かわせる方法を「仕掛け」と呼び、仕掛学を研究されている方がいる(松村真宏さん@大阪大学)。

この仕掛け学、僕がやろうとしている気づきの情報インタラクションデザインにも非常に関係があるので、松村真宏さん著「仕掛学〜人を動かすアイデアの作り方」を読んでみた。以下、簡単なメモを記しておく。


 仕掛学とは

  • 仕掛けとは、魅力的な行動の選択肢を増やすことで、自ずとそちらの行動が選ばれるように仕向ける方法論である。仕掛けられる人の行動を変化させること問題解決を図る方法論であり、仕掛けそのものによって問題解決を図るものではない
  • 「したほうが良い」と直接伝えても効果がないことは明らかなので、「ついしたくなる」ように間接的に伝えて結果的に問題を解決することを狙うのが仕掛け

仕掛けを定義する要件

  • FAD要件
    • 公平性(fairness):誰も不利益を被らない
    • 誘因性(attractiveness):行動が誘われる
    • 目的の二重性(duality of purpose):仕掛ける側と仕掛けられる側の目的が異なる
  • 誘因性は行動を誘う仕掛けの性質であり、行動変容を強制するものは仕掛ではない。仕掛けが行動の選択肢を増やしていること、および自分の意志で自由に行動を選べることが必要である
  • 仕掛けが対象としている本当の問題は明示されていないことが多い。問題を意識することなく興味の赴くままについ行動してしまう 

良い仕掛け

  • 良い仕掛けと悪い仕掛けを分けるのは、仕掛ける側と仕掛けられる側の双方の目的を知ったときに「こりゃ一本採られた」と笑顔になるかどうか
  • 行動と解決する問題の関係が一見すると無関係に見えるときほど、うまい仕掛けになる(仕掛けの副作用性)
  • 仕掛けの副作用性は、行動の多義性を利用することで生まれる

強い仕掛けと弱い仕掛け

  • 仕掛けに対する反応の強弱は、仕掛けから発生する「便益」と「負担」によって特徴付けられる
  • 便益:仕掛けによってもたらされる主観的な感情
  • 負担:仕掛けによって行動を変えるときにかかる体力的、時間的、費用的な負担

仕掛けの原理

  • 物理的トリガによって心理的トリガを引き起こされ、行動に変化が生じる
  • 物理的トリガ:知覚される仕掛けの物理的な特徴
  • 心理的トリガ:人の内面に生じる心理的な働き
  • 詳細なトリガの分類は書籍もしくは論文を参照
トリガの分類(Springerのサイトより)