벵갈루루, Generative AI 사람 중심 규범 촉구

이번 주 벵갈루루에서 열린 토론회는 자동화 열풍에 맞춰 사람을 보호하는 계획이 필요하다고 경고하며 Generative AI의 다음 국면에 신중한 기조를 더했다. IT for Change가 주최한 Our Digital Futures Fest에서 연사들은 노동 보호, 투명성, 생태적 비용의 계량, 데이터 공급망 점검 없이 이루어지는 가치 창출은 의미가 약하다고 주장했다.

JustJobs Network의 설립자 겸 전무인 Sabina Dewan은 빠른 재교육만으로 노동자가 자동화 중심의 새 경제에 편입될 수 있다는 가정을 문제 삼았다. 그는 노동 규칙의 집행, 사회보장, 실제 일에 맞춘 기술훈련 체계를 갖춘 제도를 요구하며 사람들이 있는 자리에서 만나야 한다고 강조했고, 이는 단순한 Generative AI의 약속에 기댄 접근과 다르다고 설명했다.

세션을 진행한 IT for Change의 공동 설립자 겸 전무인 Anita Gurumurthy는 환경과 사회의 관점에서 문제의식을 정리했다. 그는 데이터와 자원을 빨아들이는 추출주의적 비즈니스 모델, 큰 생태 발자국, 자동화된 시스템이 지식을 중개하면서 나타나는 집단적 인지 저하 우려를 열거했다. 이런 지적은 Generative AI를 제품화하려는 시장에서 윤리의 주변 논쟁이 아니라 사업의 정당성을 가르는 기준으로 읽힌다.

Data & Society의 정책 국장 Brian Chen은 어떤 과업을 자동화하는지 기능별로 따져봐야 가치 판단이 가능하다고 제안했다. 그는 사회적 편익이 입증되더라도 현재의 정치경제 구조에서는 자연독점, 노동 종속, 자원 고갈 탓에 이익이 상층에 집중될 것이라고 경고했다. 이런 흐름이 이어지면 Generative AI의 경제성은 소수의 규모 플레이어 쪽으로 기울고 중소 경쟁자는 규제 준수와 인프라 비용 압박을 더 크게 받을 수 있다.

인프라의 공급 측면은 University of Bonn의 Sustainable AI Lab 연구자이자 Laboratório de Políticas Públicas e Internet 공동 설립자인 José Renato Laranjeira de Pereira가 꺼낸 사례로 부각됐다. 그는 브라질 정부가 최근 데이터센터 건설에 대한 세금 감면을 내놓았고 그 뒤 일부 시설이 원주민 토지에 들어서 기본 자원 접근을 제약했으며 자원을 기술 기업으로 돌리기 위한 공격 보도까지 나왔다고 말했다. 또한 아마존과 내륙 일부 지역에 Starlink가 들어오며 접속 취약 지역 사회 전체가 데이터 식민주의의 새 경계로 편입되고 있고 이는 Generative AI의 확장과 맞물려 있다고 설명했다.

FOSS United Foundation의 대표 Sai Rahul Poruri는 소프트웨어 구매자에게 신뢰가 실질적 난제라며 챗봇이 비정상 응답을 보이거나 시스템이 고장날 때 이를 공개하지 않는 업계 관행을 지적했다. 그는 자가 보고와 명확한 사고 공시를 촉구했고, 이러한 전환은 구매 기준과 감사를 바꾸며 Generative AI에 투자하는 자본의 판단에도 영향을 줄 것이라고 내다봤다. 기업이 자동화를 저울질하는 지금 승자는 신뢰성, 책임성, 공정성을 입증하는 곳이 될 가능성이 크며 이는 다음 세대의 기업 콘텐츠가 과열이 아니라 더 촘촘한 거버넌스 아래 만들어질 것임을 시사한다.