AI 기반 정신 건강 챗봇 규제의 도전

인공지능이 주도하는 정신 건강 챗봇이 증가함에 따라 일부 주에서는 이를 규제하려는 노력을 기울이고 있다.

연방 차원의 강력한 규제가 부족한 상황에서, 일부 주는 AI '치료'를 제공하는 앱을 규제하기 시작했다. 그러나 올해 통과된 법률들은 AI 소프트웨어 개발의 빠르게 변화하는 환경을 완전히 다루지 못하고 있다. 앱 개발자, 정책 입안자 및 정신 건강 옹호자들은 이러한 주 법률의 조합이 사용자 보호나 유해 기술의 창작자를 책임지게 하는 데 충분하지 않다고 말한다.

주 법률은 다양한 접근 방식을 취하고 있다. 일리노이와 네바다는 AI를 이용한 정신 건강 치료를 금지했으며, 유타는 사용자 건강 정보를 보호하고 챗봇이 인간이 아님을 명확히 밝히도록 요구하는 등 특정 제한을 두었다. 펜실베이니아, 뉴저지, 캘리포니아도 AI 치료를 규제할 방법을 고려하고 있다.

사용자에게 미치는 영향은 다양하다. 일부 앱은 금지된 주에서 접근을 차단했으며, 다른 앱은 법적 명확성을 기다리며 변화를 주지 않고 있다. 많은 법률이 치료를 명시적으로 홍보하지 않는 일반적인 챗봇을 다루지 않고 있다.

연방 규제 및 감독이 필요하다는 목소리가 높아지고 있다. 연방 무역 위원회는 최근 7개의 AI 챗봇 회사에 대한 조사를 시작했으며, 식품의약국은 AI 기반 정신 건강 기기를 검토하기 위한 자문위원회를 소집할 예정이다. 이러한 조치는 AI 기술의 부정적 영향을 측정하고 모니터링하는 데 초점을 맞추고 있다.