シミュレーションのリテラシー

これはAdvent Calendar 2021 「計算と哲学」12/22の記事です。文章が上手くまとまらなかった部分がありますが、担当日も過ぎてしまったので一旦公開します。

はじめに

何年か前から、様々な所で出されるシミュレーション結果というものを、上手く活用するリテラシーが必要な時代になっていると感じていました。「計算と哲学」という面白そうなAdvent Calendarを見かけたので、かつて学生時代にシミュレーションをやっていた人間として、少し考えをまとめておこうと思いました。色々なことを書いていますが、シミュレーションのリテラシーって確かに大事なことかもなあ、などと思っていただけたら嬉しいです。

この記事ではまず、コロナ禍におけるシミュレーションの話題として、感染者数予測と飛沫感染予測についての出来事を振り返ります。その後、議論のお膳立てとして、シミュレーションという言葉の意味を整理してみます。言葉の意味を確認できたら、シミュレーションを行う目的について、いくつか具体例を挙げながら検討します。そして、製造業におけるシミュレーションの話を紹介した後で、シミュレーションを上手く活用する方法について考えてみたいと思います。

感染者数予測について

2020年に入ってから、中国で発見された新型コロナウイルスが猛威を振るい、その感染メカニズムに注目が集まりました。4月15日には厚生労働省のクラスター対策班にいた西浦教授から、「何の対策も打たなければ日本全体で約85万人が重篤な事態となり、そのうちおよそ半数の約42万人が死亡する可能性がある」という試算が出されました。

西浦教授曰く「中国やドイツ、フランス、スペインなど流行が先行していた国々の感染性や致死率を日本に当てはめて解析した結果から導かれた数字」とのことでしたが、実際には日本でそこまでの死者が出ることはありませんでした。このことから、「予測が外れた、大袈裟だ」と批判する人も現れて、西浦教授が自ら弁明することもありました。

コロナ関連では様々なデマも流れましたが、感染予測のシミュレーション結果をほとんど信用しなくなった人もいたようです。西浦教授はその後も繰り返し感染予測を出しましたが、2021年7月29日には週刊新潮から、「8月に東京の新規感染者が5000人を超えるという西浦教授の予測は大袈裟だ」という旨の批判記事も出されました。

https://twitter.com/h_okumura/status/1420654995788029952

しかし今度は皮肉にも、8月5日に初めて東京の新規感染者が5000人を越え、西浦教授のシミュレーションの妥当性が逆に確かめられました。この週刊新潮の記事は、7月29日発売の8月5日号に掲載されたものなので、号数と同じ日に記事の間違いが証明されてしまったことになります。

事の顛末を簡単にまとめると、「当初は感染予測に使う数式やパラメータを正確に確定できなかったので、感染者数を上手く予測できなかったが、研究が進むうちに正確さを高められるようになった。けれども初期の予測の誤差が大きかったことで、その後の予測も信用しなくなった人々が出た」というところでしょうか。シミュレーションへの不信から、正しい結論を誤りと判断した例と言えるのではないかと思います。

飛沫感染予測について

また、新型コロナウイルスは主に飛沫感染で広がるらしいという話から、スーパーコンピューターの「富岳」を使った飛沫シミュレーションが行われ、その結果も度々話題になりました。2021年11月には、人々の行動変容を促す功績があったとして、スパコンのノーベル賞とも言われるゴードン・ベル賞の特別賞を受賞しました。

シミュレーションの結果は上手く可視化できれば、ビジュアル的に分かりやすいという利点もあります。けれども富岳が行ったシミュレーションにも、度々疑いの目が向けられることがありました。最も批判が集まったのは恐らく、東京五輪に先立って行われた、国立競技場での飛沫感染シミュレーションでしょう。

このシミュレーションでは、「滞在時間4時間のうち終始前向きで会話する」「1万人の会場に10人の感染者がいる」「全員がマスクをしている」といった仮定が置かれていました。その上でのシミュレーション結果を受けて、当時の萩生田文科相は、「1万人動員した場合の新規感染者数の試算は1名に満たない程度」「極めて感染拡大は抑えることができるということが科学的にも証明できた」などと発言しました。

これに対しては発表直後から批判が集まり、お笑い芸人であるダウンタウンの松本さんですら、「10人の意味も分からんし、この10人がポンと競技場に来て、オリンピック終わったらポンと消えるわけじゃない」などと批判するような状況でした。松本さんはスパコンを使ったシミュレーションの専門知識はないはずですが、前提条件が現実に即していないことは松本さんでも見抜けるレベルの話だったということになります。

こちらも事の顛末を簡単にまとめると、「富岳の計算性能は世界トップクラスであり、正しい前提条件の下では、世界にも認められるような飛沫感染シミュレーションを行うことができた。しかし、非現実的な前提条件から得られた結果でも、無批判に現実に当てはめる人が出てしまった」というところになるかと思います。シミュレーションへの過信から、誤った結論を正しいと判断した例と言えるのではないかと思います。

数値解析、数値計算、シミュレーション

さて、この記事では今まで「シミュレーション」という言葉を使ってきましたが、これには似た言葉がいくつかあって、しばしば混同されている印象があります。具体的には「数値解析」「数値計算」「シミュレーション」などが似た言葉のグループです。言葉の問題は注意しないと議論が煩雑になったりするので、一旦これらの用語の意味などを自分なりに整理したいと思います。

まず「数値解析」ですが、これは数学や物理学などで出てくる問題について、コンピュータを使って分析して答えを出すイメージがあるかと思います。やや専門的な話をすると、「数値」的に解くと言えば離散的な（デジタルな）解を求めることを意味していて、「解析」という言葉も数学などでよく使われる訳ですが、少し学問色の強い言葉と言えるかもしれません（微分方程式の数値解法などとの関わりも強い気がします）。

「数値計算」は、数値解析とはかなり意味が被っているものの、もっと広くアルゴリズムに従った処理を指しているイメージがあるかと思います。例えば、セルオートマトンのような逐次計算も含みますし、単に平均や分散を求めるだけのプログラムでも「数値計算している」と言えそうな気がします。問題の分析というよりも、手続きに従って答えを求める計算に使われる言葉ではないかと思います。

最後の「シミュレーション」は、数式やプログラムを使わない予想なども指すことができて、数値計算よりも幅広い概念を含むイメージがあるかと思います。例えば、災害が起きた時に行政がどう動くか考えるような場合でも、「災害シミュレーション」という言葉が使われたりします。ただしシミュレーションでは、数式やプログラムは使わなくとも何かしらの「モデル」が使われる可能性はあります。例えば、化合物の立体構造からどのような化学反応をしそうか考えたり、細胞内でウイルスがどのように増殖するか考える場合には、数式ではないですが「モデル」が使われています（模型を使うイメージでしょうか）。ちなみに、シミュレーションのことを「シュミレーション」と言う人がいますが、元の英語はsimulationなので、この言い方は明らかに間違いですね。

またシミュレーションは、何かしらの情報をインプットして、そのインプットから何か処理を行い、結果をアウトプットで得る「装置」という解釈もできると思います。正しいアウトプットを得るには、まずインプットとその後に行う処理の信頼性（大きな誤差が出ないこと）を確認しなければいけません。インプットや処理方法の正しさを確かめるには、元の現象をよく観察したり、何かしらの実験結果が必要なこともあるでしょう。シミュレーションのプロセス自体は「演繹的」ですが、その前提条件などは「帰納的」に求めるしかありません。

異論はあるかと思いますが、私は上のようなイメージで用語を理解しています。改めてこれ以降では、最も意味が広そうな「シミュレーション」について考えたいと思います。

シミュレーションを行う目的

シミュレーションの目的とは何でしょうか。なんとなくですが一般的には、例えば天気予報のように「現実に何が起きるかを定量的に当てること」が目的と思われている気がします。もちろん、「明日の昼までに100～200mmの雨が降る」という予報を出しておいて、その通りにならなかったら「外れた」と見なされるのは仕方ないことでしょう。

けれども実際には、もっと他の目的も考えられるように思います。例えば単に「明日の昼までに1mm以上の雨が降る」という、少し定性的な予測をすることもありえます。この場合は、雨が何mm降るかについてはあまり関心がなく、少しでも雨が降るかどうかを当てることが目的と考えられます。

他にも、「もし100mm/hの雨が降ったら、この川は氾濫するだろう」という、災害想定のような予測もあります。この場合は、いつ頃に100mm/hの雨が降るかについてはあまり関心がなく、最悪の条件下で何が起きるのか想定することが目的と考えられます。

南海トラフ地震に対しては、最大で32万人が亡くなるという想定が過去に出されましたが、将来的に起きる地震はずっと小規模で、実際の死者も少なく済む可能性は十分考えられます。でもそれに対して、「実際に起きた地震は小さかったから被害想定は大袈裟だった」と批判する人は少ないでしょう。ただ、リスクマネジメント的な考え方で、最悪の条件に対して対策を取る目的で、シミュレーションをしている訳です。

また、何かしらの検討対象について、数理モデルを使って予測をする時には、何か仮定を置いて理論値を出してみることはよくあります。そうしたシミュレーションは例えば、異なるシナリオの比較検討をしたり、数理モデルの問題点をあぶりだしたりする目的で行われます。

時々話題になる地球温暖化の想定なども、必ずしも将来を正確に言い当てることが目的とは言えないように思われます。例えば、IPCCによる地球温暖化の想定では、大気中のCO2濃度が何ppmになったらという仮定を置いて、複数のシナリオで予測を出していますが、これは比較検討の意味合いが強いでしょう。

もちろんシミュレーションとしては、よりきめ細やかな予測を目指す方が良いでしょう。科学哲学の言葉で説明するなら、なるべく反証可能性が高い（間違えるリスクが高い）主張を言い、それが反証テストに耐えるか確認できることが重要です。地震予知の例で言うと、「1か月以内にM3以上の地震が日本のどこかで起きる」という予測より、「1週間以内にM6以上の地震が関東地方で起きる」という予測の方が間違えるリスクが高い（反証可能性が高い）ですが、当たるか確認する価値がより高いのは後者の予測であることは明白でしょう。けれども、そうしたきめ細やかな予測をできないうちは、最悪の条件を想定した結果などを利用することも仕方がないように思います。

製造業におけるシミュレーション

先の文章で、「一般的にシミュレーションは、現実に何が起きるかを定量的に当てることが目的と考えられているのではないか」という話を書きましたが、自分の体感としては製造業で働いている人なども、同じように考えている人が多いイメージがあります。

例えば、パソコン上で作った製品の3Dモデルに対して、どのような力を加えたらどのくらい変形するかなどをシミュレーションすることがあります（CAE解析などと呼ばれます）。それ専用のソフトは沢山売られていて、どのような物理法則に従わせるかを設定したり、材料のデータなどを入力したりすると、どう変形するかをシミュレーションしてくれます。

物理法則に従って計算するのだから実測にも近い値が出るだろうと思われがちですが、これが意外と実測とは合わないことがあります。これは、インプットに使う前提条件が間違っているとか、計算処理時に使うモデルを上手く作れなかったから、といったことが原因として考えられます（そもそも実測値にも誤差があります）。けれども、シミュレーションに慣れていない人は、しばしばソフトが表示した結果を過度に信用してしまいがちです。最大変形量が10mmとソフトで表示されたら、実際の部品でもほぼほぼ10mm変形すると思ってしまうのです。

自分が「定量的な数値まで正確に当てるのは結構難しいですよ」と言ったら、「じゃあ何のためにシミュレーションしてるんだ」と聞き返されたこともあります。個人的には、条件を上手く設定することが難しい現象もあるので、実務的には正確な数値に拘らない方が良いと思うこともあるのですが、このギャップを埋める難しさを時々痛感させられます。

その代わり、最大でどこがどのくらい変形するかという「定量的な」値の誤差は大きくても、部品のどの箇所が最も変形するかというやや「定性的な」結果の方が、まだ当てやすいのではと思っています。最も変形しそうな箇所が分かれば、その個所を必要に応じてもっと補強するなどして、設計に活かすことができます。定量的な予測は難しくても、活用する方法はあると思うのです。この考え方は機械学習で言うと、回帰問題のように具体的な数値を求めるのではなく、分類問題のようにクラスを判別することに近い話かもしれません。

関連して、形状を変えてみた時に元の形状より変形しにくくなっているかなどを「比較」する使い方も有効なこともあります（パラメータスタディといいます）。要は、計算結果の「絶対量」を見るのではなく、別々の結果を比べた時の「相対量」を見る方が有用なこともあるのではということです。

シミュレーションを活用するために

天気予報は、一昔前と比べればかなり精確になりました。でも、必ず当たるとは限りません。なので、天気予報を特別に疑っている訳でなくても、「念のため傘を持っておく」という行動を取る人は多いと思います。普段から雨に濡れるリスクに備えていれば、そもそも雨が降るかどうかを気にする機会も減りそうです。これは地震予知などでも似た話で、いつ地震が起きるか精確に当てることも大事ですが、そもそも地震への備えを普段からしていなければ、予知情報を十分活かせないかもしれません。そう考えると、シミュレーションの精確さはそれ程重要でないことも、多々あるように思われます。

南海トラフ地震の例で言えば、地震発生から津波到達まで数分しかないような地域では、「何mの津波が来るか」「実際に避難する必要があるか」といったことまで事細かに予測しようとしても、住民がその予測結果を待てる時間がほとんどありません。そうした地域では極端な話、「津波が来るかどうか」だけが予測できれば十分で、そうした情報が出されたら直ちに避難するくらいでないと間に合わないのではないでしょうか。

個人的にはまず、「実際に起きそうなこと」と「最悪条件で起きそうなこと」を区別して、意志決定に活かすのがいいのではと考えています。また、何かしらのシミュレーション結果を見た時に、それが正しいかどうかをすぐに判断するのではなく、後から出てくる情報と矛盾しないか確かめるまで待つ姿勢も時には必要でしょう。シミュレーションを実証科学の延長として捉えるのであれば、実測データなどによる裏付けが取れるまでは「態度を保留する」勇気も求められるのではないかと思います。

それから、シミュレーションの目的を、時々きちんと確認することも大事なように思われます。例えば、「ある地域に原発を作りたい。そのための原発の構造を考えたい」という目的から、様々なシミュレーションをすることがありますが、こうしたシミュレーションでは一部の人に都合のいい前提条件が置かれがちです。目的に合う構造の設計が難しいことなどが分かれば、「原発を作る」という元の目的を修正すべき時もあるかもしれません（安全性と採算性の確保は譲れないからという風に）。

また、相関関係と因果関係を混同しないとか、モデルが複雑すぎないか確認する、といったことも重要でしょう。官能評価などでは二重盲検法のような工夫も必要なことがあります。この辺りの情報は、最近の経済学や心理学や医学などの領域で、ランダムサンプリングや因果推論といった話題で盛んに論じられています。機械学習の文脈では過学習（オーバーフィッティング）の問題が取り上げられたりしますが、科学史などを読んでいても作り方がおかしいモデルで持論を展開していた偉人の失敗例などが出てきて、そうした過去の教訓が意外と参考になると思うこともあります。

人間はミスを犯す生き物なので、技術的に様々な工夫がされていても、単純ミスによる間違いが起きる可能性もあります。そうしたミスを防ぐ工夫も様々考えられていますが、注意深く作業しなくても済むような仕組みを作って抑えるのが常套手段ではないかと思います。時には、論文の査読制度のようなイメージで、詳しい第三者にセカンドオピニオンを求めるべきかもしれません。更には、単に意見を求めるだけでなく、なぜそのように考えるのかと議論を行うことも必要でしょう。そうして丁寧に意見をすり合わせることができれば、些細な判断ミスはかなり減らせるのではないかと思います（手間はその分かかりますが）。

なお、話が煩雑になるのを避けるためにあえて掘り下げませんでしたが、シミュレーションの信頼性というのは、人間の認知能力とも密接に結びついているはずです。直接知覚したり観察・測定したりできない現象をシミュレーションする場合は、やはり難易度が上がります。歴史上一度しか起きたことがない出来事の検証なども、証拠が少なければ難しくなるでしょう。前提条件やモデルの設定に曖昧さが残るからです。コンピューター上で行うシミュレーションにしても、その確かさは経験的事実に支えられていると実感したことは何度もあります。

極端な話ですが、認知症が進行した方は、単に物忘れが酷くなるだけでなく、立方体などの図形を上手く模写できなくなったり、幻視や錯視が見えることもあるそうです。時間や空間、言語や五感などの認知機能が正常でなければ、正しい情報を取捨選択することも難しくなるでしょう。しかし、よく考えてみると健常者の自分にしても、物事の認知能力には限界があって、認識できないことは沢山ある訳です。自分の経験や感覚は疑いにくいものでもありますが、認知の歪みにより慎重な判断ができないことがある可能性も、心に留めておくと良いのかもしれません（自戒も込めて）。

おわりに　～10年前の記憶～

コロナ禍でシミュレーションの話題を聞くたびに、個人的には東日本大震災での出来事をいくつか思い出していました。

例えば、地震の発生直後には、気象庁の速報値で3mや6mの津波が来ると報道されていましたが、後で津波予想高さが何度も引き上げられたということがありました。この津波警報に加えて、観測値でも当初は数十cmの第1波を報道していたので、事態を甘く見て避難しなかった人もいたそうです。現在の津波警報では、津波の明確な高さ表示を出さなくなりました。

また、福島第一原発は当初、1960年のチリ地震津波を参考に、想定津波高さを約3.1mとして設計されていたそうです。しかし、その後の地震学の発展などにより、もっと高い津波が来る可能性も何度か指摘されていました。けれども、当時の原子力安全・保安院などの規制組織が独立して機能していなかったこともあり、十分な規制や対策工事が行われませんでした。震災の時点では高さ5.7mの津波を想定して設計されていたようですが、実際には約3倍の15m程度の津波に襲われました。現在は、経済産業省にあった原子力安全・保安院などの代わりとして、環境省に原子力規制委員会が置かれ、独立性が強められた規制組織が監視する体制になっています。

また、原発事故への対策ツールとして、放射性物質の飛散をシミュレーションするSPEEDI（緊急時迅速放射能影響予測ネットワークシステム）が存在しましたが、震災当時は結果の信頼性に疑問が持たれて、避難に活用されなかったということもありました。SPEEDIの有用性については、実は政府事故調と国会事故調で異なる結論が出されていますが、当時は原子炉の温度、気圧、放射線量などのデータをERSS（緊急時対策支援システム）から受け取れない状態だったため、十分な予測はできなかったそうです。 現在では、原発事故の避難時にSPEEDIの計算結果を使わない方針が採られています。

こうした一連の出来事を受けて、科学者・技術者側でもシミュレーションの扱いを論じる人は時々いました。当時は「想定外」や「安全神話」といった言葉から、科学そのものへの信頼が問われる論調もあったくらいなので、科学者・技術者側からも反省を込めて意見を述べていたのでしょう（一例として、吉村忍さんという方は2014年に、「シミュレーション専門家にとってのシミュレーション・リテラシー」と、「社会が備えるべきシミュレーション・リテラシー」を区別して論じる文章を書いています）。多くの失敗を経て理論を修正していくことが科学の営みでもありますが、社会制度やヒューマンエラーによる失敗も露呈したのがあの震災だったように思います。

コロナの感染予測が外れたとか富岳の計算がおかしいという話が出た時には、シミュレーションなんて無駄だとかスパコンに金出すななんて話が出るんでは、と個人的には少し警戒しました。結果的にはほとんど杞憂だった訳ですが、何がきっかけで予算を削られたり、仕事が無くなったりするかは分からないものです。研究者・技術者側としては、「いざという時に自分の仕事の意義を分かりやすく説明できる」ことも、結構大事なのではないかなと思っています（分かりやすいのは費用対効果などを説明することでしょうか）。

シミュレーションのリテラシーについてはいくら考えても、特にシミュレーションの精度が向上するとは限りませんが、「シミュレーションはどうあるべきか」という規範的な問いを考えるきっかけにはなるかと思います。シミュレーションは、今や人々の生活を左右するくらい身近なものですし、その確からしさはどう担保されるかという科学哲学的な文脈でも語れるものではと考えています。

参考資料

『感情の哲学入門講義』源河亨、慶應義塾大学出版会
　記事の構成を考える上で参考にしました。

『ワードマップ現代現象学』植村玄輝他、新曜社
　議論の進め方を考える上で参考にしました。

『科学哲学』サミール・オカーシャ、廣瀬覚訳、岩波書店
　科学的実在論の議論など科学哲学上のトピックの話を参考にしました。

『思考力改善ドリル』植原亮、勁草書房
　バイアスや対照実験や反証可能性などの内容を参考にしました。

『自然主義入門』植原亮、勁草書房
　認識論や工学的問題についての考察などを参考にしました。

『「知」の欺瞞』アラン・ソーカル他、田崎晴明他訳、岩波書店
　科学者が行う理論の検証方法と科学哲学との関係などについて参考にしました。

『科学とモデル』マイケル・ワイスバーグ、松王政浩訳、名古屋大学出版会
　科学的なモデルの類型化などの内容を参考にしました。

『考える力学』兵頭俊夫、学術図書出版社
　数式を使った物理現象の記述方法などについて参考にしました。

『微分方程式と数理モデル』遠藤雅守他、裳華房
　物理現象の数理モデル化の方法などについて参考にしました。

『工学シミュレーションの品質保証とV&V』白鳥正樹他、丸善出版
　シミュレーションの誤差が出る原因などについて参考にしました。

『エッセンシャル キャンベル生物学』サイモン・エリック・J他、池内昌彦他訳、丸善出版
　過去に起きた新型ウイルスの流行例などについて参考にしました。

『南海トラフ地震』山岡耕春、岩波新書
　地震の被害予測の見方などを参考にしました。

『TSUNAMI 津波』高嶋哲夫、集英社文庫
　地震の被害予測の出し方などについて参考にしました。

『絵でわかる地球温暖化』渡部雅浩、講談社
　温暖化シミュレーションの仕組みや解釈などについて参考にしました。

『言葉と数式で理解する多変量解析入門』小杉考司、北大路書房
　データから数理モデルを作る方法などについて参考にしました。

『ALLミクロ経済学』ダロン・アセモグル他、岩本康志他訳、東洋経済新報社
　経験主義的な考え方や自然実験の例などを参考にしました。

『「原因と結果」の経済学』中室牧子他、ダイヤモンド社
　因果推論のやり方などの内容を参考にしました。

『物理学をつくった重要な実験はいかに報告されたか』モリス・H．シャモス編、清水忠雄他訳、朝倉書店
　著者の科学論の話などを参考にしました。

『科学の発見』スティーヴン・ワインバーグ、赤根洋子訳、文藝春秋
　歴史上あった科学の失敗の話などを参考にしました。

『ヒューマンエラーを防ぐ知恵』中田亨、朝日新聞出版
　ヒューマンエラーの具体例や対策について参考にしました。

『純粋理性批判（まんが学術文庫）』近藤たかし他、講談社
　認識論の議論などを参考にしました。

『認知症世界の歩き方』筧裕介他、ライツ社
　認知症の症状について参考にしました。

『日本人は何をめざしてきたのか 第3回 民主主義を求めて～政治学者 丸山眞男～』NHK
　東日本大震災の出来事のまとめ方を考える上で参考にしました。