CCTVカメラにおける顔認識：苦い影響

多くの国では、市民が日常的にどこに行ってもCCTVカメラを目にすることに慣れています。モスクワはこれをさらに進めており、都市全体に10万台以上のこれらのデバイスを設置し、一部のアパートビルの入り口にも設置しています。NTechLabのクリエイティブな人々は、2016年12月に地元政府と協力して、このインフラの中心に顔認識システムを実装しました。それ以来、2017年9月28日の報告によると、捕まえるのが難しかった犯罪者6人が逮捕されました。しかし、これは、すべての市民を自動的に認識できる技術で常に監視されている社会について何を示しているのでしょうか？

何が間違っている可能性があるのか？

犯罪者の動きやルーチンを追跡するために、都市が十分な監視カバレッジを持つべきだという主張があります。モスクワでの逮捕は、システムが意図した通りに機能していることを証明しており、これらの犯罪者の中には何年も捕まらなかった者もいます。しかし、1つの都市にこれほど多くのCCTVカメラがあるという不気味な考えを無視することはできません。地元政府は、入ってくる市民や観光客の動きをほぼすべて追跡できるのです。このような都市全体のシステムは、悪用の大きな可能性を秘めています。

一般的に、私たちは殺人者を捕まえて正義に持ち込むべきだということには同意するかもしれませんが、「法を破る者」という概念が、これほど広範囲に監視を行う同じ機関によって定義される社会を想像するのは不安です。例えば、特定の衣服を禁止することで表現の自由を制限する社会がこの監視モデルを実施した場合、特定の日に間違った服を着た個人が逮捕されることになるでしょう。

FaceFindスキャンダル

CCTV実験の前に、NTechLabはFindFaceというプラットフォームを通じてその技術を一般に公開しました。これを使用すると、人々はランダムな写真をアップロードすることで、その人のVKontakte（VK、ロシア版Facebook）プロフィールを見つけることができました。悪意のある人々のグループは、このソフトウェアを使用して成人女優のVKプロフィールを見つけ、彼女たちの家族や友人に連絡を取り、否定的な反応を引き出し、ターゲットの生活を困難にしようとしました。FindFaceの初期の意図は、全く別のものでした。新しい友人を見つけるためのプラットフォームとして作られましたが、代わりに世界中のストーカーにとっての恩恵となってしまいました。

良かれと思って始めた取り組みが目標を達成できないとき

顔認識CCTVプラットフォームとFindFaceの両方は、最良の意図で作られました。一方は犯罪者を捕まえるために、もう一方は人々を近づけるために作られました。しかし、人間の本性と国家機関の性質は、このソフトウェアがどのように使用されるかについて異なる絵を描きます。私たちは、技術を使用して自分の生活だけでなく他者（例えば、親が子供の電話に追跡ソフトウェアをインストールすること）を制御したいと考える傾向があります。正しく使用すれば、人々を安全に保つのに役立ちます。しかし、間違った手に渡ると、FindFaceやモスクワのCCTVベースの顔認識システムのような技術は、無実の人々の生活を悲惨にする可能性があります。

政府の監視を支援するために、もっと技術を導入すべきだと思いますか？コメントで話しましょう！