AIスタートアップのPerplexityは、警察官を含む公共安全の専門家に自社技術を提供する新たな取り組みを開始した。1月上旬に発表された「Perplexity for Public Service Organizations」は、同社の法人向け上位プラン「Enterprise Pro」を最大200アカウントまで1年間無料で提供するプログラムであり、より大規模な機関に対しては割引オプションも用意されている。
「Perplexity」や「ChatGPT」などの大規模言語モデル（LLM）ベースのツールを日常的に利用していれば周知の通り、これらのツールは決して万能ではない。ハルシネーション（もっともらしいうそ）や不正確な情報の生成、学習データに混入した文化的バイアスの再現といった問題を抱えている。また、一般的にこれらのツールは人間の幸福よりもユーザーのエンゲージメントを優先するように設計されている。これらを安全に使用するためのプロトコルは、いまだ構築の途上にあるのが現状だ。
そのため、法執行機関のような機密性の高い業界においては、わずかな誤りが重大な事態を招く恐れがある。Perplexityの発表によれば、同プログラムは警察官がリアルタイムでより適切な意思決定できるよう支援し、日常業務の自動化を目的としている。具体的には、現場写真の概要作成やニュース記事およびボディーカメラの書き起こしデータの分析、さらには捜査官のメモを構造化された報告書にまとめる作業などが想定されている。
一見すると無害な用途に思えるが、Policing Projectの事務局長 兼 AI政策顧問であるKatie Kinsey氏は、まさにその点に危惧を抱いている。同氏は、これらのユースケースが事務的、あるいは些細な作業として提示されることこそが危険であると指摘する。日々の業務におけるAIの活用は、人々の生活に大きな影響を及ぼす可能性がある。報告書の作成といった作業から、起訴や告発につながる重要な意思決定の多くが派生しているからだ。
チャットボットを使用して授業のメモを学習ガイドにまとめる程度であれば、致命的な結果を招くことはないだろう。しかし、法執行の現場では、些細なミスが重大な結果に直結する。例えば、AIが「警察官がカエルに変身した」というような明らかなハルシネーションを起こせば、人間は即座にその出力を無視できる。だが、より危険なのは、真実をわずかに改ざんし、検知が困難な場合だ。警察の報告書に含まれる細部が捏造され、それが冤罪（えんざい）を招くといった事態が懸念される。実際、弁護士がAIツールを使用して書面を作成した際、判例などの詳細を捏造した事例がすでに複数報告されている。
Perplexityの広報担当者は米ZDNETの取材に対し、同社は製品とビジネスモデルにおいて正確性を重視しており、公共安全の職員にAIツールを提供する体制が整っていると述べた。同社は独自のAIモデルをゼロから構築するのではなく、OpenAIやAnthropicなどのモデルを採用し、ハルシネーションを最小限に抑えるための追加学習を行っているという。
しかし、課題は依然として残っている。欧州放送連合（EBU）と英国放送協会（BBC）が実施した最近の調査によると、最新のニュース記事について質問した際、Perplexityを含む主要なチャットボット4種は、正確性や情報源などの基準において「少なくとも1つの重大な問題」を含む回答を頻繁に生成したという。
こうした状況は、法執行機関におけるAIの責任ある利用を誰が担保すべきかという問いを投げかけている。ハルシネーションのないチャットボットが実現するまでは、利用は自己責任となる。
ジョージ・ワシントン大学法科大学院のAndrew Ferguson教授は、たとえ事務的な用途であっても、AIを選択した警察官自身がそのリスクを負うべきだと指摘する。同氏は、自由や憲法上の権利に関わる場では正確性を守るための安全策が必要であり、ミスを防ぐ法律や規則がない以上、技術を賢明に使用するのは警察の義務であると述べている。
一方でKinsey氏は、責任の所在は政策立案者にあると考えている。同氏は、要件を規定する厳格な法律が存在しないことが問題であると主張する。Perplexityは今回の取り組みをこの種のものとして初の試みとしているが、今後同様の動きが続くのは確実だろう。
AI開発企業はユーザー層の拡大に向けた強い圧力にさらされており、一方で警察組織は古くから新技術を早期に導入してきた歴史がある。2000年代初頭から導入されている「予測型警察活動」のアルゴリズムは、社会的に弱い立場にあるグループに対する偏見を助長しているといった批判や、透明性の欠如が指摘されてきた。近年では、顔認識や嘘発見器にAIを活用する動きも始まっている。
Kinsey氏は、法執行機関は安定した顧客であり、民間産業と法執行機関の密接な関係は常に存在すると指摘する。激化するAI開発競争の中で、他社もPerplexityに追随し、警察官や公共安全当局を対象とした取り組みを開始する可能性がある。
提供：Jack Quillin/iStock / Getty Images Plus
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
ZDNET Japan 記事を毎朝メールでまとめ読み（登録無料）