저는 미국과 다른 민주주의 국가를 방어하고, 권위주의적 적대 세력을 물리치기 위해 AI를 활용하는 것이 지닌 실존적 중요성을 깊이 믿고 있습니다. 이에 따라 앤스로픽은 자사의 모델을 국방부와 정보기관에 배치하기 위해 선제적으로 노력해왔습니다.

우리는 미국 정부의 기밀 네트워크에 모델을 배치한 최초의 프런티어 AI 기업이었으며, 국립 연구소에 모델을 배치한 최초의 기업이었고, 국가 안보 고객을 위한 맞춤형 모델을 제공한 최초의 기업이기도 합니다. Claude는 정보 분석, 모델링 및 시뮬레이션, 작전 계획, 사이버 작전 등 임무 수행에 핵심적인 다양한 분야에서 국방부와 기타 국가 안보 기관 전반에 광범위하게 배치되어 활용되고 있습니다.

앤스로픽은 단기적 회사 이익에 반하는 경우에도 미국의 AI 주도권을 방어하기 위해 행동해왔습니다. 우리는 중국 공산당과 연계된 기업들(그중 일부는 국방부에 의해 중국 군사 기업으로 지정됨)이 Claude를 사용하는 것을 차단하기 위해 수억 달러 규모의 매출을 포기했습니다. 또한 CCP가 후원한 사이버 공격이 Claude를 악용하려는 시도를 차단했으며, 민주주의 국가의 기술적 우위를 확보하기 위해 칩에 대한 강력한 수출 통제를 지지해왔습니다.

앤스로픽은 군사적 의사결정은 민간 기업이 아닌 국방부의 책임이라는 점을 분명히 이해하고 있습니다. 우리는 특정 군사 작전에 대해 이의를 제기하거나, 자사 기술의 사용을 임의적으로 제한하려 한 적이 없습니다.

그러나 제한적인 일부 사례에서 우리는 AI가 민주적 가치를 수호하기보다는 오히려 훼손할 수 있다고 믿습니다. 또한 일부 활용 사례는 현재 기술 수준에서 안전하고 신뢰할 수 있게 수행할 수 있는 범위를 벗어납니다. 다음 두 가지 활용 사례는 지금까지 국방부와의 계약에 포함된 적이 없으며, 앞으로도 포함되어서는 안 된다고 생각합니다.

- 대규모 국내 감시
우리는 합법적인 해외 정보 및 방첩 임무에 AI를 활용하는 것을 지지합니다. 그러나 이러한 시스템을 대규모 국내 감시에 사용하는 것은 민주적 가치와 양립할 수 없습니다. AI 기반의 대규모 감시는 우리의 기본적 자유에 심각하고 새로운 위험을 초래합니다.

현재 이러한 감시가 합법인 경우가 있다면, 이는 법이 AI의 급속히 발전하는 역량을 아직 충분히 반영하지 못했기 때문입니다. 예를 들어 현행법상 정부는 영장 없이도 공개 출처에서 미국인의 이동 경로, 웹 브라우징 기록, 인간관계에 대한 상세한 기록을 구매할 수 있습니다.

정보기관 역시 이러한 관행이 개인정보 보호 측면에서 우려를 야기한다는 점을 인정했으며, 이는 의회 내 초당적 반대의 대상이 되기도 했습니다. 강력한 AI는 개별적으로는 무해해 보이는 이러한 분산된 데이터를 자동으로, 그리고 대규모로 결합해 한 개인의 삶에 대한 포괄적 그림을 만들어낼 수 있게 합니다.

- 완전 자율 무기
오늘날 우크라이나에서 사용되고 있는 것과 같은 부분 자율 무기는 민주주의 방어에 필수적입니다. 심지어 인간을 완전히 통제 루프에서 배제하고 표적 선정 및 교전을 자동화하는 완전 자율 무기 역시 국가 방위에 중요해질 수 있습니다.

그러나 현재의 프런티어 AI 시스템은 완전 자율 무기를 구동하기에는 충분히 신뢰할 수 있는 수준이 아닙니다. 우리는 미국의 전투원과 민간인을 위험에 빠뜨릴 수 있는 제품을 의도적으로 제공하지 않을 것입니다.

우리는 이러한 시스템의 신뢰성을 개선하기 위한 연구개발을 국방부와 직접 협력하자고 제안했지만, 국방부는 이를 수용하지 않았습니다. 또한 적절한 감독이 없다면, 완전 자율 무기는 우리 군의 고도로 훈련된 전문 병력이 매일 보여주는 핵심적 판단력을 대신할 수 없습니다. 이러한 무기들은 적절한 안전장치 하에 배치되어야 하지만, 현재로서는 그러한 장치가 존재하지 않습니다.

우리가 아는 한, 이 두 가지 예외 조항은 지금까지 우리 군 내에서 모델의 채택과 활용을 가속화하는 데 장애물이 되지 않았습니다.

국방부는 위에서 언급한 사례들에서 안전장치를 제거하고 “모든 합법적 사용(any lawful use)”에 동의하는 AI 기업과만 계약하겠다고 밝혔습니다. 또한 우리가 이러한 안전장치를 유지할 경우, 자사 시스템에서 우리를 제외하겠다고 위협했습니다. 더 나아가 우리를 “공급망 위험(supply chain risk)”으로 지정하겠다고 위협했는데, 이는 통상 미국의 적대 세력에 적용되는 낙인으로 미국 기업에 적용된 전례가 없습니다.

아울러 국방생산법(Defense Production Act)을 발동해 안전장치 제거를 강제하겠다고도 위협했습니다. 이 두 위협은 본질적으로 모순됩니다. 하나는 우리를 안보 위험으로 규정하고, 다른 하나는 Claude가 국가 안보에 필수적이라고 규정하기 때문입니다.

그럼에도 불구하고 이러한 위협은 우리의 입장을 바꾸지 못합니다. 우리는 양심에 반하여 그들의 요구에 동의할 수 없습니다.

어떤 계약자를 선택할지는 국방부의 권한입니다. 그러나 우리 기술이 미군에 제공하는 상당한 가치를 고려할 때, 국방부가 재고해주기를 바랍니다. 우리의 강력한 선호는 두 가지 안전장치를 유지한 상태로 국방부와 우리 전투원들을 계속 지원하는 것입니다.

만약 국방부가 앤스로픽을 제외하기로 결정한다면, 우리는 군사 계획, 작전, 기타 핵심 임무에 어떠한 혼란도 발생하지 않도록 다른 공급자로의 원활한 전환을 지원할 것입니다. 우리는 제안한 확장된 조건에 따라 필요한 기간 동안 모델을 제공할 것입니다.

우리는 미국의 국가 안보를 지원하기 위한 우리의 노력을 계속할 준비가 되어 있습니다.

오늘 텍사스 밀램 카운티에 위치한 우리의 Stargate 부지에서 첫 철골이 세워졌습니다.

SoftBank 및 SB Energy와 함께 프로젝트가 형태를 갖춰가는 모습을 보게 되어 매우 기대됩니다.