바카라

지난주 중국 바카라 기업 딥시크(DeepSeek)의 부상으로 시장이 요동친 후, 오픈바카라는 여러 새로운 모델과 기능을 선보였다. 이러한 발표가 딥시크가 오픈바카라와 다른 미국 연구소들을 혁신 면에서 앞서고 있다는 인식에 대응하기 위해 앞당겨진 것인지, 아니면 원래 계획대로 진행된 것인지는 불분명하다.

지난주 오픈바카라의 최고경영자 샘 알트먼이 레딧(Reddit)의 '질문하세요' 세션에서 한 발언이 가장 주목을 받았다. 오픈소스 모델 출시 고려 여부에 대한 질문에 알트먼은 이렇게 답했다.

"네, 논의 중입니다. 개인적으로는 우리가 이 문제에 대해 역사의 잘못된 편에 서 있었다고 생각하며 다른 오픈소스 전략을 마련해야 한다고 봅니다. 오픈바카라의 모든 구성원이 이 견해를 공유하는 것은 아니며, 현재 최우선 과제도 아닙니다."

이는 원래 모든 연구와 모델을 오픈소스로 공개한다는 원칙으로 설립되었으나, 최근 몇 년간 독점 바카라 모델에 전념해온 연구소의 수장으로서는 중대한 발언이다. 현재 오픈바카라의 소프트웨어는 API를 통해서만 상호작용할 수 있다.

오픈바카라가 독점 모델을 채택한 데에는 두 가지 이유가 있었다.

첫째는 상업적 이유다. 무료로 제공하는 지적 재산으로 수익을 내기는 훨씬 어려우며, 누구나 소프트웨어를 역설계할 수 있다면 경쟁사에 대한 기술적 우위를 유지하기도 매우 어렵다.

둘째는 바카라 안전성에 관한 것이다. 오픈소스 모델을 악용하는 것을 막기가 훨씬 어렵기 때문이다. 바카라 정책 관련 논의에서는 '모델 가중치 보안'의 중요성이 자주 언급됐다. 이는 미국이 중국과 같은 잠재적 경쟁국에 대해 기술적 우위를 유지하고, 불순한 세력이 바카라를 위험한 방식으로 사용하는 것을 막기 위한 방법으로 여겨졌다.

딥시크R1 모델의 인기로 이러한 계산법이 몇 가지 중요한 측면에서 바뀌었다.

첫째, 시장이 점점 더 오픈소스를 선호하는 것으로 보인다. 2023년 대부분의 기간 동안 오픈바카라, 앤트로픽, 구글(Google)의 독점 모델들이 성능 면에서 확실히 우수했을 때, 많은 최고기술책임자와 최고정보책임자들은 사업 목표를 달성할 수 있는 바카라 시스템을 구축하려면 더 뛰어난 독점 시스템에 비용을 지불해야 한다고 생각했다.

그러나 그 이후 무료 오픈 가중치 모델들이 독점 모델들의 성능에 점점 더 근접해왔다. 메타(Meta)의 라마 3(Llama 3) 시리즈 모델이 GPT-4와 비슷한 성능을 보인 것이 그 예다. 이제 딥시크는 새로운 추론 모델에서도 이것이 사실임을 보여주었다. 이 모델들은 논리 문제, 수학, 코딩에서 더 나은 성능을 보이며, 문제에 대해 '생각하는' 시간이 길어질수록 더 나은 답변을 제공한다. 딥시크의 R1은 오픈바카라의 GPT-4에 근접한 성능을 보인다.

또 다른 변화는 많은 기업들이 오늘날의 생성형 바카라 시스템으로 업무를 수행하는 가장 좋은 방법이 여러 모델을 함께 사용하는 것이라는 점을 발견했다는 것이다. 독점 모델로 이러한 작업 흐름을 구축하면 비용이 빠르게 증가할 수 있다. 오픈소스 모델은 기업들이 잠재적으로 더 낮은 비용으로 더 많은 통제권을 가질 수 있는 방법을 제공한다. 단, 오픈소스 모델을 사용할 때도 어딘가에 모델을 호스팅하는 비용은 여전히 지불해야 한다.

독점 모델과 오픈소스 모델 간의 성능 격차가 좁아지고 많은 기업들이 오픈소스를 선호하는 상황에서, 오픈바카라, 앤트로픽, 구글이 기초 모델 판매로 시장 점유율을 유지하기는 어려울 것이다.이들은 '상위 계층으로 이동'하여 모델은 무료로 제공하되 그 위에 구축된 응용 프로그램과 도구를 판매하는 방식으로 전환해야 할 수도 있다.이는 전통적인 오픈소스 소프트웨어 제공업체의 사업 모델이다.

오픈바카라의 최고제품책임자인 케빈 웨일은 알트먼이 "역사의 잘못된 편"이라는 발언을 한 같은 레딧 세션에서 오픈바카라가 일부 구형 모델을 오픈소스화할 수 있다고 말했다. 그러나 이것이 오픈소스가 오픈바카라에 제기하는 사업적 도전을 해결할 수 있을지는 불분명하다.

안전성과 보안 측면에서도 강력한 오픈소스 모델의 증가하는 인기는 딜레마를 제시한다. 오픈소스 모델은 근본적으로 독점 모델보다 덜 안전하다. 지난주 펜실베이니아대와시스코(Cisco)의 연구진이 발표한 연구에 따르면, 딥시크의 챗봇을 50가지 일반적인 제어 우회 기법으로 시험한 결과, 모든 시도에서 실패했다. 제어 우회란 모델의 안전장치를 우회하여 잠재적으로 유해한 내용을 출력하도록 유도하는 프롬프트를 사용하는 기법이다. 이는 딥시크를 시스템에 도입하려는 모든 기업들이 무심코 큰 보안 취약점을 포함시킬 수 있다는 것을 의미한다.

또악의적인 행위자들이 딥시크의 모델을 쉽게 이용해 멀웨어와 사이버 공격을 만들거나, 피싱 사기를 벌이거나, 심지어 테러 공격을 계획하는 데 도움을 받을 수 있다는 뜻이기도 하다. 이것이 바로 오픈소스 모델을 방어하는 방법을 찾는 데 더 많은 자금과 노력을 투입해야 하는 이유다.

앤트로픽이 한 가지 아이디어를 발견했을 수 있다. 자세한 내용은 아래 바카라 연구 동향 섹션을 참조하기 바란다.

딥시크는 또한 경쟁국들이 최첨단 또는 그에 준하는 바카라 능력을 획득하는 것을 막기 어렵다는 점을 보여준다. 그렇다면 이에 대해 어떻게 대응해야 할까? 미국의 수출 통제에 대한 일부 비판자들은 딥시크가 미국의 수출 통제로 인해 최첨단 컴퓨터 칩에 대한 접근이 제한되었음에도 불구하고 V3 LLM과 R1만큼 유능한 모델을 만들 수 있었다는 점을 들어 수출 통제가 효과가 없다고 주장한다.

반면 전 오픈바카라 정책 연구원 마일스 브런디지와 같은 이들은 수출 통제가 그 어느 때보다 필요하다고 주장한다. 그의 논리는 수출 통제가 완전히 효과적이지 않을 수 있지만, 사람들은 여전히 선도적인 모델을 개발하고, 특히 그것들을 운영하는 데 있어 더 강력한 바카라 칩을 선호할 것이라는 점이다. 따라서 이러한 제한은 중국이 원하는 만큼의 엔비디아(Nvidia) GPU에 접근할 수 있는 경우보다는 여전히 더 어렵게 만들 것이라는 주장이다.

이러한 보안 우려를 오픈소스 모델 뒤에 있는 사업적 동력과 조화시키는 것은 어려울 것이다. 알트먼은 오픈바카라가 "역사의 잘못된 편"에 있었다고 느낄 수 있지만, 그렇다고 해서 개발자들 사이에서 회사의 인기를 높이기 위해 무모하게 역사의 종말을 앞당기는 위험을 감수할 의향이 있을까?

이어서 더 많은 바카라 뉴스를 전해드린다.

앞서 언급했듯이, 오픈바카라는 많은 발표를 했다.

오픈바카라는 수학, 코딩, 논리 분야에 특화된 강력한 추론 모델인 o3의 더 빠른 버전인 o3-mini를 공개했다. 또한 이 모델을 무료 사용자를 포함한 모든 ChatGPT 사용자에게 제공했다.

회사는 o3 모델을 기반으로 한 딥 리서치(Deep Research)라는 제품도 출시했다. 이는 웹을 검색하고 다른 데이터 소스를 탐색하여 거의 모든 주제에 대해 상세한 연구 보고서를 작성할 수 있는 에이전트다. 딥 리서치는 초기에 오픈바카라의 월 200달러 프리미엄 서비스 구독자에게 제공된다. 회사는 딥 리서치가 박사급 연구원과 분석가의 작업 수준과 맞먹는다고 말한다.

오픈바카라의 CEO인샘 알트먼(Sam Altman)은 회사가 스마트폰을 대체하거나 최소한 경쟁할 수 있는 새로운 종류의 하드웨어 기기를 개발 중이라고 재차 강조했다.이 기기는 사람들이 바카라 비서와 상호작용하는 주요 방식이 될 것이다.

오픈바카라는 또한 소프트뱅크(Softbank)와 50대 50 합작 투자를 통해 일본에서 오픈바카라의 기술을 판매하기로 했다. 이는 소프트뱅크가 바카라를 위한 대규모 새 데이터 센터 구축을 위한 5000억 달러 규모의 스타게이트(Stargate) 계획에 오픈바카라와 함께 투자하는 가운데 나온 결정이다. 한편 소프트뱅크가 오픈바카라의 기업 가치를 3000억 달러로 평가하는 대규모 신규 투자를 주도할 수 있다는 소문이 돌고 있다.

메타(Meta)는 향후 바카라 시스템이 너무 큰 위험을 초래할 경우 출시를 자제할 수 있다고 밝혔다. 회사는 뒤늦게 다른 주요 바카라 연구소들과 함께 바카라 안전 문제를 다루는 체계를 발표했다. 메타의 프론티어 바카라 체계(Frontier 바카라 Framework)에 따르면, 회사는 사이버 보안, 화학, 생물학적 공격을 가능하게 할 잠재력에 따라 "고위험" 또는 "중대 위험"으로 분류된 바카라 모델의 출시를 보류할 수 있다. 적어도 이러한 위험을 줄이기 위한 완화 조치를 도입할 때까지는 말이다. 이 체계는 위험 수준을 평가하기 위해 경험적 테스트 대신 내부 및 외부 연구원들의 의견에 의존한다.

일론 머스크(Elon Musk)의 동맹자가 핵심 정부 기관이 '바카라 우선' 접근법을 취해야 한다고 말했다. 와이어드(Wired)지는 익명의 소식통들이 미국 연방조달청(GSA) 직원들과 새로운 기술혁신서비스 책임자인 토마스 셰드(Thomas Shedd) 간의 회의에 참석했다고 전했다. 셰드는 전 테슬라(Tesla) 엔지니어로 일론 머스크와 가까운 인물이다.

와이어드의 보도에 따르면, 셰드는 2월 5일 월요일 연방 자산과 장비를 관리하는 미국 정부의 연방조달청이 "바카라 우선 전략"을 추구해야 한다고 발표했다. 여기에는 정부 전반에 걸쳐 사용할 바카라 코딩 에이전트 개발과 다양한 내부 업무 자동화 계획이 포함된다고 셰드는 말했다. 그는 연방조달청을 "스타트업 소프트웨어 회사"처럼 운영하도록 변화시키고 중앙집중식 연방 데이터 저장소를 만들 계획이다. 그러나 사이버 보안 전문가들은 정부 운영을 자동화하는 데 따른 과제와 복잡성에 대해 우려를 제기했다.

군이 사용을 금지하기 며칠 전, 국방부 직원들이 딥시크(DeepSeek)의 중국 호스팅 서비스에 접속했다.블룸버그 뉴스의 보도에 따르면, 국방부 직원들이 이 도구에 접근하기 위해 중국 서버에 업무용 컴퓨터를 연결한 것이 정부가 국방부의 서비스 접근을 제한하기 최소 이틀 전이었다. 국방정보시스템국(DISA)이 2월 6일 화요일부터 해당 웹사이트 차단을 시작했지만, 일부 국방부 직원들은 2월 7일 수요일에도 여전히 딥시크에 접속할 수 있었다. 군 관계자들은 이전부터 보안 경보를 울리지 않고 2024년 가을부터 자신들의 워크스테이션에 딥시크 코드를 다운로드해왔던 것으로 보인다.

이 사건으로 군 부대들의 대응이 엇갈렸다. 해군은 보안 및 윤리적 우려로 딥시크 사용을 전면 금지했지만, 수천 명의 국방부 직원들은 중국 서버에 직접 연결되지 않는 인가된 소프트웨어 플랫폼인 Ask Sage를 통해 계속해서 딥시크에 접근하고 있다.

이 기술 억만장자가 바카라 종말로부터 언론을 구할 수 있을까? 포춘지의 편집장인 앨리슨 숀텔(Alyson Shontell)이 클라우드플레어(Cloudflare)의 공동 창업자이자 CEO인 매튜 프린스(Matthew Prince)와 그의 계획에 대해 꼭 읽어봐야 할 기사를 썼다. 프린스는 사이버 공격으로부터 인터넷의 상당 부분을 보호하는 자사의 중요한 위치를 이용해 언론사들이 바카라 기업들의 무단 콘텐츠 스크래핑에 맞서 싸울 수 있도록 돕고자 한다. 더 나아가 프린스는 클라우드플레어를 이 데이터 생태계의 핵심 중개자로 변모시켜 출판사들이 바카라 모델과 그 결과물에 기여한 데이터에 대해 정당한 보상을 받을 수 있게 하려고 한다. 이 기사는 포춘지에서 읽을 수 있다.

앤트로픽(Anthropic)이 잠금해제 방지를 위한 새로운 방법을 찾았다고 밝혔다. 앤트로픽은 헌법적 분류기(Constitutional Classifiers)라고 부르는 새로운 시스템을 만들었다고 발표했다. 이 시스템은 사용자들이 클로드(Claude) 바카라 모델의 잠금을 해제하는 것을 매우 효과적으로 방지한다고 한다. 이 시스템은 앤트로픽의 이전 작업인 헌법적 바카라를 기반으로 한다.헌법적 바카라는 모델이 사용자 프롬프트에 대한 답변을 만들 때 일련의 서면 원칙, 즉 헌법을 적용하도록 요구함으로써 모델 가드레일을 만드는 방법이었다. 이 방법으로 앤트로픽의 모델들은 일부 경쟁 모델들보다 잠금해제에 덜 취약했지만, 완전히 효과적이지는 않았다.

새로운 헌법적 분류기는 다양한 종류의 잠금해제 프롬프트와 여러 언어의 예시를 사용해 훈련된 추가 모델이다. 이는 입력에서 잠금해제 시도를 감지하고, 모델 출력에서 가드레일을 위반할 수 있는 내용을 감지하도록 설계되었다. 앤트로픽은 이 분류기를 극복하고 클로드의 잠금을 해제할 수 있는 방법을 찾은 사람에게 1만 5000달러의 "버그 바운티" 상금을 제공했다. 그러나 183명이 3000시간 이상을 투자해 시스템을 우회하려 시도했음에도 불구하고, 앤트로픽은 10가지 다른 금지된 응답 유형에 걸쳐 클로드의 가드레일을 성공적으로 극복할 수 있는 "보편적 잠금해제" 방법을 찾은 사람이 없었다고 밝혔다. 일부 기술은 일부 콘텐츠 유형에서는 작동했지만 다른 유형에서는 작동하지 않았다.전반적으로 이 시스템은 약 95%의 잠금해제 시도를 차단했다.

그러나분류기는 완벽한 해결책은 아니다. 이를 사용하려면 기본 클로드 모델만 실행하는 것보다 23.7% 더 많은 컴퓨팅 파워가 필요하기 때문이다.분류기를 사용하면 클로드가 응답을 제공하지 않는 경우도 더 자주 발생하여 정당한 사용자에게는 모델의 유용성이 떨어질 수 있다. 회사는 2월 10일까지 특히 화학 무기와 관련된 질문에 대해 클로드의 잠금을 해제할 수 있는지 공개 테스트를 계속 진행 중이라고 밝혔다. 하지만 지금까지 이 시스템은 괜찮은 방어책으로 보인다. 그러나 이것이 다른 모델, 특히 잠금해제가 특히 쉬운 것으로 알려진 딥시크와 같은 오픈 웨이트 모델에 얼마나 잘 작동할지는 아직 명확하지 않다.

제레미 칸(Jeremy Kahn) FORTUNE 바카라 에디터jeremy.kahn@fortune.com 편집문상덕