自動化による無責任社会

I'm banned for life from advertising on Meta. Because I teach Python. — Reuven Lerner

Python(プログラミング言語)とPandas(Pythonのデータ処理ライブラリ)の教育をしている人が、Metaで広告を出していたが、利用規約違反としてアカウントが永久にBANされた。そこでMetaに苦情申立をとってみたが、判断は正しいという返事が返ってきた。どの利用規約に反しているのかをMetaは答えず、ましてや広告はPythonとPandasの教育でしかない。

似たようにPythonを教育していてMetaからアカウントBANを食らった人は他にもいるらしく、理由として信じられない仮説が考えられている。

すなわち、Metaの自動化された利用規約違反の検出システムは、Pythonをプログラミング言語ではなく有鱗目ヘビ亜目のニシキヘビだと認識して、利用規約の禁ずる生きた動物を使ったパフォーマンスだと認識しているのではあるまいかということだ。苦情申立をしても人間が判定せず、同じく自動化されたシステムが判定するので、当然同じように判定されているのではないか。

ソフトウェアによる自動化が進み、かつてはオモチャと思われたニューラルネットワークが言語モデルの表現方法として使われて大量の計算力を注ぎ込まれた結果、今や半分ぐらいは正しい一見それっぽく見える文章を吐き出す昨今、かなり正しい自動化が実現している。しかし、精度というのは初戦確率の問題であれば、試行回数が多ければ間違いが出てくる。自動化が誤った場合は誰が責任を取るのかということを人は言う。しかし、誰も取らないのではないか。

アメリカのソフトウェアジャイアントらは過去20年以上も自動化の責任をとらないままのうのうとやり過ごしてきているし、株価もうなぎ上がりだ。

第一、Metaには責任を取るインセンティブがないのだ。自動化による誤りに人間が対応しようとすると莫大な人件費がかかる。このコストはたかがPythonを教育している個人程度から得られる広告収入を上回る。なので真面目に対応する営利上の理由がない。アメリカの企業は得てしてこのような打算的なコスト計算をする。アメリカの某車会社も故障をリコールするより発覚した不具合だけ個別に賠償金を払ったほうが安いと踏んで、人命を損ない、大炎上した。

アメリカのソフトウェア巨人企業がかくあるうちは、自動化による責任は誰も取らないだろう。