何が変わったか

職場の感情観測はこれまで上司の主観評価か離職率のような遅延指標に限られていた。

The Atlantic の Ellen Cushing による特集で、 MetLife はコールセンター担当者の声色を、Burger King はヘッドセット型チャットボット「Patty」で従業員と顧客の対話の友好度を、家具メーカー Framery は心拍と呼吸を測るバイオセンサー付きオフィスチェアをテストしていることが判明。Slack 統合の Aware や Microsoft Azure は社内コミュニケーションの感情分析を提供し、Imentiv は採用面接の感情解析サービスを展開する。

社会にどんな影響があるか

労働者監視が「客観的データ」の体裁で正当化され、人事判断の不公平性を増幅する。Lauren Rhue の研究では NBA 選手の表情解析 AI が黒人選手を白人選手より「怒っている」と判定し、笑顔の場合でもそうなる人種バイアスが確認された。EU は AI Act 第5条で職場における感情AIを医療・安全用途を除き禁止しており、MorphCast はこれに対応してフィレンツェからベイエリアへ本社移転した。

副作用として、Cushing は「システムが完璧に動くと、労働者は本来の業務に加えて『感情ロボットを満足させる演技』という新しい仕事を負わされる」と指摘する。仕事の感情労働化と監視のフィードバックループが、従業員の精神的負担を本業以上に重くする可能性が高い。

俺にどんな影響があるか

PRES が産学連携で扱う研究室の中には行動解析・心理測定に関わる領域もあり、研究成果が「職場監視テック」として消費される経路を最初から制度設計で塞ぐ必要がある。技術契約の段階で「医療・安全用途以外への転用禁止」「学術的検証付きの用途限定」を明文化することが、研究者の社会的責任と PRES のレピュテーションを同時に守る筋になる。

ニュースの詳細

感情AIの基盤理論である Paul Ekman の「6つの基本感情」は何十年も「過剰単純化で方法論的に欠陥がある」と批判されてきた。神経科学者 Lisa Feldman Barrett は「身体・表情・声色の動きには本質的な感情的意味はない。あるのは関係的意味だけ」と指摘し、米国では人が怒っているとき顔をしかめる確率は約35%にすぎないと述べる。

具体的被害として、2022年 NYT 調査で UnitedHealth のソーシャルワーカーが患者対応中のキーボード非操作を理由に評価を下げられた事例、ACLU が HireVue・Intuit に対し聴覚障害のあるアクセシビリティチーム従業員を「アクティブリスニングの実践を」と却下した申し立てを行った事例が報告されている (両社は否認)。世界市場規模は2030年に90億ドル (現在の3倍) と予測される。

キーワード解説

Emotion AI (感情AI / Affective Computing) とは、表情・声・テキスト・生体信号から人間の感情状態を推定する技術領域。1995年に MIT の Rosalind Picard が概念提唱したが、科学的妥当性が長く議論されており、特に「特定の表情が特定の感情と一対一で対応する」という Ekman 由来の前提が現代心理学で否定されている。

EU AI Act 第5条 とは、欧州連合の AI Act が定める「許容できない AI 利用」の禁止リスト。職場・教育機関での感情推論システム、社会的スコアリング、無差別生体識別などが含まれ、医療・安全用途のみ例外的に許される。違反時の制裁金は世界年間売上高の最大7%。

MorphCast とは、表情解析でユーザーの感情状態をリアルタイム推定するイタリア発のサービス。Webカメラ映像から「楽しんでいる」「決意している」といったラベルを生成する。AI Act 施行を機に本社をフィレンツェからカリフォルニアのベイエリアに移し、規制を回避した代表例。