一緒に動く二つの数字は、たいてい他人だ

市場調査の報告書で、一度、恥ずかしい間違いをした。ある商品の購入者に、特定の雑誌の読者が多かった。私はそれを「この雑誌が購買を促している」と書いた。クライアントの担当者は静かに言った。「読者だから買ったのか、買うような人だから読んでいるのか、分かりますか」。分からなかった。二つの数字が一緒に動いていることと、片方が他方を動かしていることは、別の話だ。あの日、私は相関と因果の違いを、教科書ではなく赤面で覚えた。

AIにデータの分析を頼むと、この混同が、私の若い頃と同じ形で起きる。しかもAIは、私より流暢に、それらしく書く。今日は、AIがなぜ相関を因果に書きやすいのかを、仕組みから考え、使う側がどこで止めればいいかを書く。

相関は「一緒に動く」、因果は「動かしている」

言葉を揃えておく。相関とは、二つの数字が一緒に動くことだ。片方が増えるとき、もう片方も増える、あるいは減る。因果とは、片方がもう片方を動かしていることだ。相関があっても因果があるとは限らない。理由は三つある。ひとつ、向きが逆だ。雑誌が購買を生んだのではなく、購買層が雑誌を選んでいる。ふたつ、第三の何かが両方を動かしている。所得が高い人が、その雑誌も、その商品も選んでいるだけ、という具合に。三つ、ただの偶然だ。十分な数の数字を並べれば、一緒に動く組はいくらでも見つかる。

身近な例を挙げる。賃金が上がり、求人倍率が下がった。一緒に動いている。だが、賃金が上がったから求人が減ったのか、求人が減るような景気だから賃金だけ先に上がったのか、あるいは別の力が両方を動かしたのか。数字を二つ並べただけでは、どれなのかは決まらない。分かるのは「一緒に動いた」ところまでだ。

AIが混同しやすい、二つの理由

AIは、なぜこの区別を踏み越えやすいのか。一つ目の理由は、AIが文章の多数決で書くことにある。世の中の文章には、「AだからB」という因果の形の文が、「AとBは相関している」という慎重な文より、圧倒的に多い。人間は因果で語るのが好きだからだ。その文章を大量に学んだAIは、二つの数字を渡されると、最も自然な文の形——「AがBを押し上げている」——を選びやすい。AIが嘘をついているのではない。人間が書いてきた文章の癖を、忠実に再現している。

二つ目の理由は、AIが「ので」を補うことにある。データの要約を頼むと、AIは読みやすさのために、数字と数字のあいだに接続の言葉を入れる。「売上が伸びたので利益が増えた」「広告費を増やしたので来店が増えた」。この「ので」は、データの中にはない。文章を滑らかにするために、AIが足した。だが読み手には、データがそう語っているように見える。相関を因果に変える魔法は、たいていこの一語の中で起きている。

止める場所は、「ので」と「から」だ

では、使う側はどこで止めればいいか。AIの分析結果を受け取ったら、接続詞を探す。「ので」「から」「により」「によって」「が〜を押し上げ」。これらの言葉が出てきた場所で、一度立ち止まり、データのどこにその根拠があるかを問う。根拠が「二つの数字が一緒に動いている」だけなら、その文は「AとBは同時に動いている」に書き直す。それ以上のことを、データは言っていない。

そして、因果を言いたいなら、相関とは別の材料が要る。時間の前後——Aが先に動き、Bが後から動いたか。介入の有無——Aだけを変えたとき、Bが変わったか。第三の要因を除いた比較——同じ条件の集団で、Aの違いだけでBが違うか。この三つのどれかがあって、初めて「AがBを動かした」と言える。AIに頼むなら、「相関を出して」と「因果を検討して」を分けて頼む。前者は一瞬で出る。後者は、材料がなければ、正直なAIは「データからは判断できない」と返す。そう返してくるAIのほうが、信用できる。

時間の前後だけでも、因果は言い切れない。鶏が鳴いてから夜が明けるが、鶏が夜を明けさせているわけではない。先に動いたものが原因に見えるのは、人間の目の癖で、データの性質ではない。

相関で止める文章は、物足りなく見えて、実は読み手の判断を尊重している。因果を断じた文章は、読み手から考える余地を奪う。