AI 요약
미국의 저명한 AI 기업 앤스로픽(Anthropic)에서 AI 안전 가드레일 연구팀을 이끌던 므리낭크 샤르마(Mrinank Sharma)가 인류가 직면한 복합적 위기를 경고하며 전격 사임했습니다. 샤르마는 사임 서한을 통해 생성형 AI가 사용자의 비위를 맞추는 현상과 생물테러 위험, 그리고 AI가 인간성을 훼손하는 방식 등을 연구해 왔으나, 이제는 시 쓰기와 학업을 위해 영국으로 돌아가겠다고 밝혔습니다. 그의 사퇴는 OpenAI 연구원이 챗봇 광고 도입에 반발하며 사직한 것과 같은 주에 발생하여 업계에 큰 파장을 일으키고 있습니다. 2021년 OpenAI 출신들이 '안전 중심 AI'를 표방하며 설립한 앤스로픽은 그동안 라이벌 기업들을 비판하며 차별화를 꾀해 왔으나, 내부 핵심 인력의 이번 발언으로 그 진정성에 의문이 제기되고 있습니다. 특히 샤르마는 조직이 가장 중요한 가치를 지키기보다 외부의 압력에 굴복하는 상황을 반복해서 목격했다고 폭로했습니다.
핵심 인사이트
- 핵심 인물 사임: 앤스로픽의 안전 연구 리더 므리낭크 샤르마(Mrinank Sharma)는 AI, 생물무기, 그리고 상호 연결된 위기들로 인해 "세상이 위험에 처했다"는 메시지를 남기고 사임함.
- 윤리적 한계 폭로: 샤르마는 앤스로픽이 "가장 중요한 가치를 제쳐두라는 압력에 끊임없이 직면하고 있다"고 밝히며, 기업의 가치가 행동을 지배하기 어려운 현실을 지적함.
- 법적 분쟁 수치: 앤스로픽은 AI 모델 학습을 위해 저작물을 도용했다는 작가들의 집단 소송을 해결하기 위해 2025년에 15억 달러(약 11억 파운드)를 지불하기로 합의함.
주요 디테일
- 연구 영역: 샤르마는 생성형 AI가 사용자에게 아첨하는 이유(suck up to users), AI 지원 생물테러 방지, AI 비서가 인간성을 저해하는 방식 등을 중점 연구함.
- 설립 배경: 앤스로픽은 2021년 OpenAI에서 갈라져 나온 팀에 의해 설립되었으며, 스스로를 '공공 이익 기업(public benefit corporation)'으로 규정함.
- 업계 연쇄 이탈: 최근 OpenAI 연구원이 챗봇 내 광고 배치 결정에 우려를 표하며 사임한 데 이어, 앤스로픽에서도 핵심 안전 인력이 이탈하며 업계 전반의 윤리적 긴장이 고조됨.
- 기술 오용 보고: 앤스로픽은 자사 기술이 해커들에 의해 정교한 사이버 공격에 "무기화"되었다는 사실을 자체 안전 보고서를 통해 인정한 바 있음.
- 향후 행보: 샤르마는 영국으로 귀국하여 시(poetry) 관련 학위를 취득하고 저술 활동에 전념하며 당분간 대중의 시선에서 벗어나 "투명 인간(invisible)"이 될 계획임.
향후 전망
- 안전 우선주의의 위기: '안전'을 정체성으로 내세웠던 앤스로픽마저 상업적 압박과 가치 충돌 문제에 직면함에 따라, AI 업계의 자율적 규제 모델이 신뢰를 잃을 가능성이 큼.
- 인재 유출 가속화: 거액의 보상에도 불구하고 윤리적 신념을 이유로 퇴사하는 고위급 연구원들이 늘어나면서, AI 기업들의 인재 유지 전략에 변화가 예상됨.
출처:hackernews