BTC
ETH
HTX
SOL
BNB
시장 동향 보기
简中
繁中
English
日本語
한국어
ภาษาไทย
Tiếng Việt

OpenAI 공동 창립자 Ilya Sutskever, 새로운 AI 회사인 Safe Superintelligence 출시

2024-06-20 03:53
Odaily 스타 데일리 뉴스 OpenAI의 공동 창립자 중 한 명인 Ilya Sutskever는 새로운 인공 지능 회사인 Safe Superintelligence를 설립했습니다. Sutskever와 Safe Superintelligence는 Daniel이 공동 창립한 웹 사이트에서 "우리의 단일한 초점은 간접비나 제품 주기에 방해가 되지 않음을 의미하며 우리의 비즈니스 모델은 안전, 보안 및 진행이 단기적인 상업적 압력에 영향을 받지 않는다는 것을 의미합니다."라고 말합니다. 전 Apple 인공지능 디렉터이자 소셜 애플리케이션 Cue의 공동 창립자인 Gross와 전 OpenAI 연구원인 Daniel Levy입니다. 이 회사는 팔로알토와 텔아비브에 사무실을 두고 있습니다. (테크인아시아)
추천 기사

Fable5이 강제로 오프라인되기 24시간 전, 백악관에서는 무슨 일이 일어났을까?규제를 가장 지지하는 AI 기업, 오히려 규제의 철퇴를 맞다 핵심 관점: 미국 정부는 Anthropic의 신규 모델 Fable 5의 안전장치가 우회될 가능성을 우려하여 국가 안보 위협으로 간주, 24시간에 걸친 치열한 협상 끝에 드물게 수출 통제권을 발동해 모델을 강제로 내리게 했다. 이 사건은 첨단 AI 모델이 잠재적인 국가 안보 자산으로 간주되기 시작했으며, 규제 방식이 기업의 자율 규제에서 정부의 강제 개입으로 전환되고 있음을 의미한다.핵심 요소:정부는 해당 모델이 소프트웨어 취약점을 식별하는 데 악용될 수 있어 국가 안보 위협이 된다고 판단한 반면, Anthropic은 관련 문제가 ‘범용적 제프 돌파(탈옥)’가 아니라고 주장했다.이번 사건은 아마존이 백악관에 우려를 표명하면서 시작되었으며, 이후 미국 재무부, 상무부 및 백악관 사이버 보안 책임자 등 고위 관계자들이 Anthropic CEO와 여러 차례 긴장된 통화를 진행했다.정부는 Anthropic에 자발적인 모델 내리기를 요구했으나 받아들여지지 않자, 국가 안보 권한을 발동하여 Fable 5 및 Mythos 5에 대한 수출 통제를 시행했고, 이로 인해 모든 고객에 대한 모델 사용이 금지되었다.규제를 적극적으로 촉구해 온 AI 기업인 Anthropic이 오히려 규제의 철퇴를 맞은 셈이 되었으며, 회사 측은 정부의 조치가 투명성과 기술적 사실에 기반한 법적 절차를 결여했다고 비판했다.이번 사건은 분수령이 될 것이며, 향후 최첨단 모델의 출시는 단순한 제품 출시가 아니라 국가 안보와 지정학적 위험을 수반하는 고위험 배포 과정에 가까워질 것이다.