<미국 정부의 앤트로픽에 대한 제재, 더욱 유효한 투트랙 전략>
보안상의 취약점을 발견했다고 미국 정부는 국가 안보 당국을 인용하면서, 미국 내외를 막론하고 외국 국적의 앤스로픽(Anthropic) 직원을 포함한 모든 외국인의 Fable 5 및 Mythos 5 접근을 중단하라는 수출 통제 명령을 내렸습니다. 저는 며칠 전 이 관련 소식을 들었지만, 생각보다 빨리 진행되어서 조금 놀랐습니다.
지금 앤트로픽은 수출 통제 명령을 따를 수 밖에 없는 상황을 알리고 동시에 다음과 같이 강한 유감을 미국 정부에 표하고 있습니다.
"현재까지 정부가 저희에게 제시한 구체적인 증거는 비범용의 좁은 잠재적 탈옥에 관한 구두 증거뿐이며, 이는 본질적으로 모델에게 특정 코드베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 수준에 불과합니다. 저희가 파악하기로는 하나의 잠재적 탈옥 사례가 정부와 공유된 것으로 보입니다. 저희는 정부 명령의 근거가 된 것으로 추정되는 보고서를 검토했으며, 그곳에서 보여준 역량 수준은 다른 모델(OpenAI의 GPT-5.5 포함)에서도 널리 제공되는 수준이며 시스템을 안전하게 지키는 방어자들이 매일 사용하는 기능임을 확인했습니다. 자세한 내용은 향후 24시간 이내에 추가로 공유하겠습니다.
저희는 정부의 법적 명령을 준수하여 모든 사용자의 Fable 5 및 Mythos 5 접근을 차단하고 있습니다. ****그러나 좁은 범위의 잠재적 탈옥이 발견되었다는 이유로 수억 명에게 배포된 상용 모델을 회수해야 한다는 점에는 동의하지 않습니다. 이러한 기준이 업계 전반에 적용된다면, 모든 프론티어 모델 제공업체의 신규 모델 배포가 사실상 전면 중단될 것으로 생각합니다.****
공개적으로 밝힌 바와 같이, 저희는 투명하고 공정하며 명확하고 기술적 사실에 기반한 법적 절차의 일환으로 정부가 안전하지 않은 배포를 차단할 수 있는 권한을 가져야 한다고 믿습니다. 하지만 이번 조치는 그러한 원칙에 부합하지 않습니다."
전에도 밝혔습니다만, 전통적으로 가장 강력한 기술적 무기를 미국방부가 직접 가지고 있었던 시대를 벗어나 민간에 손을 내밀 수 밖에 없는게 바로 AI 분야라고 말씀드렸죠. 그런데 이제는 "민간 통제"를 통해 소유하려 하는 모습을 보게 됩니다.
저는 AI 관련 정부에서 반드시 투트랙 전략을 가져가야 한다고 수차 밝힌 바 있습니다. 우리나라의 인재양성과 탑시크릿 레벨의 서비스 부분을 위해서 자체 모델 확보가 필요하고 동시에 산업이 글로벌하게 뻗어나가 성장하기 위한 경쟁체제 확보. 이제 첫번째 트랙에 대한 새로운 니즈가 생겼고, 이 말인즉슨 독파모가 뚝 떨어지는 3등 수준이 아니라 SOTA 동급으로 올라가야만하는 당위성을 부여하는 계기라고 분석합니다. 그래서 솔직히 더 어려운 문제가 되었습니다. 미국처럼 천문학적 재원을 집어 넣어야 한다는 의미가 되는데, 만약 그정도 수준을 만들지 않는다면 우리나라의 소위 경쟁력이 있다는 사업체들은 이제 한국을 아예 벗어나게 되는 원심력이 되어버릴 수가 있어서입니다.
정부가 어려운 숙제를 마주하게 되었습니다. 저는 우선 각 정부의 제재로 인한 서비스 중단부분에 대한 공공계약에서 안전장치 마련이 가능한지부터 살피겠습니다.
출처: https://m.facebook.com/story.php?story_fbid=pfbid0uS5pt4sfuVQZ5tmyb6KsDNnYMWej...