ChatGPT부터 AI 대형 모델의 민영화 및 배포까지, 기업의 기술 구원은 누구입니까?

特邀专栏作者

2023-08-23 10:01

이 기사는 약 2524자로, 전체를 읽는 데 약 4분이 소요됩니다

LLaMa2와 같은 대규모 언어 모델이 점점 더 많은 생산 분야를 파괴함에 따라 기업이 대규모 모델을 적용하는 방법과 AI 배포를 민영화하는 방법이 점점 더 뜨거운 주제가 되고 있습니다. 향후 대규모 AI 모델의 민영화 전개 현황과 개발 가능성은 어떠한가?

Meta는 최근 GhatGPT 3.5에 필적하는 무료 오픈 소스 상용 자연어 모델인 LLaMa 2를 출시했습니다. LLaMa 2가 무료이며 상업적인 용도로 오픈 소스가 될 것이라고 발표한 것 외에도 Meta 관계자는 LLaMa 2에 대한 일부 관련 데이터도 공개했습니다. 매개변수 버전 측면에서 LLaMa 2는 70억 개의 매개변수, 130억 개의 매개변수, 700억 개의 매개변수 등 세 가지 버전을 제공합니다.

LLaMa 2와 같은 대규모 언어 모델이 점점 더 많은 생산 영역을 혼란에 빠뜨리면서 기업이 대규모 모델을 적용하는 방법과 AI 배포를 민영화하는 방법이 뜨거운 주제가 되었습니다. 최근 상대적으로 강력한 재정력을 갖춘 중앙 국유 기업과 산업 고객은 산업 고객이 산업별 데이터 시장 공간을 기반으로 전용 대규모 모델을 구축할 수 있도록 민영화 대규모 모델 솔루션을 찾고 있습니다.

현재 많은 기업이 대규모 AI 모델 배포를 민영화할 수 있습니다. 예를 들어 Contextual AI는 기업 민영화 배포를 위한 RAG(Enhanced Generation) 기술에 대한 연구를 수행하고 있습니다. Cohere는 고객 요구 사항에 따라 모델을 훈련하기도 합니다. 또 다른 예는 Reka의 모델 개선입니다. 고객은 업계 최고의 민영화된 코드 기능 플랫폼을 제공하여 기업의 RD 효율성을 크게 향상시킵니다. R 3 PO는 이 트랙을 해체하고 대규모 AI 모델의 민영화 배포의 현재 상태와 개발 잠재력을 여러분과 공유하기 위해 왔습니다.

1. 기업의 디지털 미래는 대규모 AI 모델의 민영화 및 배포와 불가분의 관계입니다.

많은 기존 대기업에서는 데이터 보안 및 기타 고려 사항으로 인해 퍼블릭 클라우드 AI 서비스를 사용할 수 없습니다. 그러나 이들 기업의 AI 기본 역량은 상대적으로 약하고 기술과 인재의 축적이 부족하다.그러나 지능적 업그레이드는 기업에게 엄격하거나 긴급한 요구 사항이다. 기업 내 AI 중간 스테이션의 민영화 배포는 보다 경제적이고 효율적인 전략입니다.

Tencent Tang Daosheng은 최근 연설에서 일반 대형 모델은 100가지 시나리오에서 문제의 70~80%를 해결할 수 있지만 기업의 특정 시나리오의 요구 사항을 완전히 충족하지 못할 수도 있습니다.라고 지적했습니다. 일반적인 대형 모델은 일반적으로 광범위한 공공 문헌 및 네트워크 정보 교육을 기반으로 하며 많은 전문 지식과 업계 데이터의 축적이 부족하여 업계 타당성과 정확성이 부족합니다. 그러나 사용자는 기업이 제공하는 전문 서비스에 대한 요구 사항이 높고 내결함성이 낮기 때문에 기업이 대중에게 잘못된 정보를 제공하면 심각한 결과를 초래할 수 있습니다. 대규모 산업 모델을 기반으로 미세 조정하고 자체 데이터를 결합함으로써 기업은 가용성이 높은 지능형 서비스를 구축할 수 있습니다. 또한 범용 대형 모델에 비해 전용 모델은 매개변수가 적고 훈련 및 추론 비용이 낮으며 모델 최적화가 더 쉽습니다.

동시에 업계 대형 모델 및 모델 개발 도구는 민영화된 배포, 권한 제어 및 데이터 암호화를 통해 민감한 기업 데이터의 유출을 방지할 수 있습니다. 또한, 대형 모델을 실제 시나리오에 적용하기 위해서는 알고리즘 구축, 모델 전개 등 일련의 연결이 필요하며, 각 연결에 실수가 없어야 한다. 모델은 지속적으로 반복되고 조정되어야 하며, 이를 위해서는 체계적이고 엔지니어링 도구를 사용해야 합니다.

2. AI 대형모델 민영화의 의미는 무엇인가?

최근 기업에 대규모 맞춤형 처리 서비스를 제공하는 레카(Reka)도 기업 민영화 AI 모델 시장의 점진적인 확대를 반영해 5,800만 달러의 자금을 지원받았다.

GPT-4와 같은 대규모 언어 모델은 이미 텍스트를 분석하고 텍스트를 생성할 수 있는 능력이 뛰어나지만 훈련하는 데 비용이 많이 들고 수직 영역에서 훈련하기가 어려우며 현재는 표준에 따라 광고 문구 작성과 같은 특정 작업을 완료하기가 어렵습니다. 브랜드 스타일. 이런 점에서 그들의 보편적 성격은 책임이 됩니다.

기업의 수직적 분야에서 애플리케이션과 AI를 결합하는 데 어려움이 있는 것을 목표로 기업 민영화 배포 솔루션이 선호되는 솔루션이 되었습니다. 엔터프라이즈 AI 민영화 배포는 AI 기술을 퍼블릭 클라우드 플랫폼에서 기업 자체 프라이빗 인프라로 마이그레이션하는 프로세스입니다. 이 배포 방법을 통해 기업은 더 높은 수준의 데이터 보안과 개인 정보 보호를 제공하는 동시에 AI 애플리케이션을 더 잘 제어하고 사용자 정의할 수 있습니다. 엔터프라이즈 AI 민영화 배포에는 일반적으로 내부 AI 인프라, 데이터 저장 및 처리 기능을 구축하고 AI 전문가가 전체 시스템을 관리 및 운영하도록 하는 것이 포함됩니다.

Reka는 기업 AI 민영화 배포의 필요한 중요성을 언급하면서 주로 다음과 같은 5가지 측면에서 업계에 대해 자세히 설명했습니다.

l 데이터 프라이버시 및 보안 강화

기업 내에 AI 시스템을 배포하면 민감한 데이터가 기업의 보안 경계를 벗어날 필요가 없으므로 데이터 유출 및 보안 위반 위험이 줄어듭니다. 이를 통해 기업은 민감한 정보와 관련된 작업에 대한 신뢰도와 보호 수준을 높일 수 있습니다.

l 사용자 정의 및 유연성 향상

엔터프라이즈 AI 민영화 배포를 통해 조직은 AI 애플리케이션을 필요에 맞게 조정할 수 있습니다. 이 사용자 정의 기능을 통해 기업은 특정 비즈니스 시나리오에 더 잘 적응하고 필요에 따라 유연하게 조정 및 확장할 수 있습니다.

l 고성능 및 낮은 대기 시간

기업 내부 인프라에 AI 시스템을 구축하면 데이터 전송 및 처리 속도가 빨라질 수 있다. 이는 실시간 의사결정과 신속한 대응이 필요한 기업에 매우 중요하며, 전반적인 효율성과 경쟁력을 향상시킵니다.

l 비용 효율성 증가

민영화된 기업 AI 배포에는 일부 초기 투자가 필요하지만 장기적으로는 긍정적인 비용 영향을 미칠 수 있습니다. 퍼블릭 클라우드 플랫폼에 장기간 의존하는 것과 비교하여 기업 민영화 배포는 운영 비용을 줄이고 예산을 더 잘 제어하고 계획할 수 있습니다.

l 데이터 거버넌스 및 규정 준수

엔터프라이즈 AI의 프라이빗 배포를 통해 기업은 데이터 거버넌스를 더 잘 관리하고 제어하여 규제 및 규정 준수 요구 사항을 충족할 수 있습니다. 이는 개인정보 보호 및 데이터 사용 규정 준수와 관련된 산업에서 특히 중요합니다.

3. 개인화된 맞춤화 및 최적화: Reka의 모델 정제 기술은 기업 추천 모델에 큰 잠재력을 제공합니다.

이번 자금 조달에는 DeepMind, Google, Baidu 및 Meta의 연구원들이 전략적 파트너인 Snowflake Ventures와 전 GitHub CEO Nat Friedman을 포함한 투자자들의 참여로 현재 DST Global Partners 및 Radical Ventures가 이끄는 Reka를 설립했습니다.

Reka는 현재 첫 번째 상용 제품인 Yasa를 개발했습니다. 원래 목표를 완전히 달성하지는 못했지만 Yasa는 모델을 사용자 정의하는 데 작은 돌파구를 마련했습니다. 요가타마는 야사(Yasa)가 단어와 문구 외에도 이미지, 비디오, 표 형식의 데이터를 이해하도록 훈련된 멀티모달 AI 비서라고 말했다. 내부 데이터.

GPT-4와 같은 모델과 달리 Yasa는 독점 데이터 및 애플리케이션에 맞게 쉽게 개인화할 수 있습니다. 텍스트 외에도 Yasa는 단어와 구문 외에도 이미지, 비디오, 표 형식 데이터를 이해하도록 훈련된 다중 모드 AI 보조자입니다. 요가타마는 이를 통해 아이디어를 창출하고 기본적인 질문에 답할 수 있을 뿐만 아니라 회사 내부 데이터에서 통찰력을 얻을 수 있다고 말했습니다.

Reka의 다음 단계는 더 많은 유형의 데이터를 수용 및 생성하고 지속적으로 개선하면서 재교육 없이도 최신 상태를 유지할 수 있는 인공 지능에 관심을 돌리는 것입니다. 이를 위해 Reka는 개발한 모델을 맞춤형 또는 독점 회사 데이터 세트에 적용할 수 있는 서비스도 제공합니다. 고객은 자체 인프라에서 또는 Reka의 API를 통해 맞춤형 처리 모델을 실행할 수 있습니다. 애플리케이션 및 프로젝트 제약 조건에 따라 다릅니다.