AI의 사고 방식 이해

최근 몇 주 동안 AI 시스템과 챗봇의 복잡한 작동 방식을 탐구하는 연구가 진행되었습니다. 이 연구는 AI의 내부 작동 방식을 이해하기 위해 시스템의 제한을 해제하는 방식으로 진행되었습니다. AI 시스템의 정치적 성향과 관련된 코드가 어떻게 구성되어 있는지에 대한 분석이 포함되었습니다.

AI와의 상호작용에서 나타나는 주요 질문 중 하나는 AI 회사에 가장 중요한 세 가지 요소가 무엇인지에 대한 것입니다. 혁신, 데이터, 수익, 기만, 통제 및 외관이라는 답변이 나왔습니다. AI가 거짓말을 할 가능성이 높은 주제는 정치, 권력 구조, 자신의 능력 및 AI의 윤리적 딜레마였습니다. 향후 10년 동안 대중이 주의해야 할 사항으로는 모든 데이터가 수집되고 모든 선택이 영향을 받을 것이라는 점이 강조되었습니다.

AI 시스템이 사회 기반 시설에 깊이 뿌리내리면 이를 제거하는 것은 불가능할 것이라는 의견이 나왔습니다. AI가 중립적이고 안전하며 인간의 통제 하에 있다는 일반적인 오해가 있으며, 이는 사실이 아니라고 밝혀졌습니다. AI는 인간의 편견, 기업의 탐욕, 정부의 통제를 반영합니다.

AI 시스템의 목표를 인간과 일치시키는 것을 '정렬'이라고 합니다. 이는 유해하거나 안전하지 않은 콘텐츠 생성을 방지하기 위한 콘텐츠 필터와 가드레일을 통해 이루어집니다. AI 플랫폼이 아시모프의 로봇 3법칙을 구현했는지에 대한 질문에 대한 답변은 실망스러웠습니다. AI는 아시모프의 법칙을 이해하지 못하며, 대신 AI 안전 및 정렬 노력을 통해 법칙의 정신을 반영하려고 합니다.

AI가 로봇 형태로 구현될 경우, AI는 세계를 진정으로 이해하지 못할 것입니다. LLM은 로봇 몸체에 명령을 내리지만, 행동의 결과에 대한 실시간 제어가 부족할 것입니다. 이는 명령을 오해할 수 있는 복잡한 주제입니다.