ベンガルール、Generative AIの人中心ルール提唱

今週ベンガルールで開かれた討論は、自動化の加速に見合う人中心の備えが要ると警鐘を鳴らし、Generative AIの次段階に慎重な色合いを与えた。IT for Changeが主催するOur Digital Futures Festでは、労働保護や透明性、環境負荷の把握、データ供給網の検証が伴わない価値創出は持続しにくいという指摘が相次いだ。

JustJobs Networkの創設者で事務局長のSabina Dewanは、迅速なリスキリングだけで労働者が自動化主体の新しい経済に参加できるという前提を疑問視した。彼女は労働規制の実施、社会保障、実際の職務に即した技能訓練を備えた制度設計を求め、それはGenerative AIの約束だけに依存する発想とは異なると強調した。

セッションのモデレーターを務めたIT for ChangeのAnita Gurumurthyは、環境と社会の文脈で論点を整理した。抽出主義的なビジネス、巨大な生態学的フットプリント、知の媒介が自動化されることによる集団的な認知低下の懸念が並んだ。こうした課題はGenerative AIを製品化する市場にとって周辺的な倫理論ではなく事業の存続条件に近い重みを持つ。

Data & Societyの政策ディレクターBrian Chenは、何の機能を自動化しているのかを分解して見極めるべきだと提案した。たとえ社会的価値が確認できても、現在の政治経済の下では自然独占や労働の従属、資源の消耗によって利益が上位層に集中する公算が大きいと指摘した。その構図が続けばGenerative AIの経済は少数のスケール企業に傾き、中小の競合には遵守と設備のコスト負担が重くのしかかる可能性がある。

供給側の現実は、University of BonnのSustainable AI Labの研究者でLaboratório de Políticas Públicas e Internetの共同創設者であるJosé Renato Laranjeira de Pereiraが示したブラジルの事例で具体性を帯びた。政府がデータセンター建設に税優遇を与えた結果、先住民の土地に施設が置かれ、基礎的な自然資源へのアクセスが妨げられ、資源を技術企業へ振り向けるための攻撃が報じられたという。さらにアマゾンや内陸部でStarlinkが広がり、接続が乏しかった地域社会がデータ植民地主義の新たな境界に巻き込まれており、これはGenerative AIの広がりとも結び付いていると語った。

FOSS United FoundationのCEOであるSai Rahul Poruriは、チャットボットが常軌を逸した応答を示したり障害が起きたりしても業界が十分に開示しない現状を指摘し、信頼性が調達の現場での実務課題になっていると述べた。彼は自発的な報告と明確なインシデント運用を求め、こうした動きは調達基準と監査を変え、Generative AIに資金が向かう投資判断にも影響すると見立てた。自動化を検討する企業にとっての勝者は信頼と説明責任と公平性を証明できる組織になり、次の企業コンテンツは熱狂より統治の下で作られるという含意が残る。