번화한 도심 거리를 누비는 자율주행차부터 사람들의 삶을 더욱 편리하고 편안하게 만들어주는 스마트 홈 시스템, 의료 분야의 정밀 진단과 맞춤형 치료, 산업 생산의 자동화와 지능화까지, AI의 발자취는 전 세계 곳곳으로 퍼져 있습니다. 사회의.
애플리케이션이 AI와 통합되지 않으면 해당 애플리케이션이 "낡은" 상태가 되었음을 나타내는 것 같습니다. 그러나 AI와 애플리케이션의 결합은 하루아침에 이루어지지 않으며 여전히 높은 '임계점'이 존재합니다.
Amazon Cloud Technology는 "모든 비즈니스 시나리오에 하나의 모델을 적용할 수는 없다"고 믿으며, 사용자는 사용 중 필요에 따라 선택하고 선택해야 합니다. 이를 기반으로 Amazon Bedrock은 고객이 선택할 수 있는 일련의 주요 기본 모델을 제공합니다.
Anthropic은 더욱 스마트한 Claude 3 모델을 구축합니다.
Anthropic은 신뢰할 수 있고 설명 가능하며 제어 가능한 인공 지능 시스템을 구축하는 데 전념하는 인공 지능 보안 및 연구 회사입니다. Anthropic은 최근 차세대 Claude 3 시리즈 모델을 출시했습니다. 그중 가장 똑똑한 Claude 3 Opus는 벤치마크 테스트에서 OpenAI의 GPT-4와 Google의 Gemini Ultra를 능가했으며 강력한 응용 가능성을 가지고 있습니다.
생성 인공 지능 분야에서 Anthropic은 Amazon Trainium 및 Amazon Inferentia 칩을 통해 모델을 구축하고 있으며 전 세계 Amazon Cloud Technology 고객에게 Amazon Bedrock의 미래 기본 모델에 대한 장기적인 액세스를 제공하기 시작했습니다. 동시에 Amazon이 Anthropic에 대한 40억 달러 투자를 완료함에 따라 두 당사자 간의 협력은 더욱 심화될 것입니다.
Chen Xiaojian, Amazon 클라우드 기술 중화권 제품 부서 총괄 관리자
최근 Amazon Cloud Technology는 기업이 생성적 AI 애플리케이션을 구축할 수 있도록 지원하는 Amazon Bedrock + Anthropic Claude 3 모델의 기능에 중점을 두고 베이징에서 생성적 AI 미디어 커뮤니케이션 회의를 개최했습니다.
현재 Claude 3 시리즈에는 즉각적인 반응성을 갖춘 Claude 3 Haiku, 기술과 속도의 이상적인 균형을 갖춘 Claude 3 Sonnet, 매우 복잡한 작업을 처리하도록 설계된 가장 지능적인 모델인 Claude 3 Opus 등 세 가지 모델이 있습니다. 작업. 처음 두 모델은 이미 Amazon Bedrock에서 공식적으로 사용 가능하며 Opus도 곧 출시될 예정입니다. 사용자는 비즈니스 요구 사항에 따라 애플리케이션 시나리오에 가장 적합한 조합을 선택할 수 있습니다.
“Anthropic의 글로벌 인기는 하룻밤 사이에 이루어진 것이 아닙니다. Claude 3는 수학 문제, 프로그래밍 연습 및 과학적 추론과 같은 표준 평가에서 기존 모델을 모두 능가했습니다. 사용자는 AI 기반 응답을 사용하여 실험 절차 최적화와 같은 작업을 자동화하고 높은 정확성을 보장할 수 있습니다. 제조업의 특정 분야에서, 상황별 데이터를 기반으로 재무 보고서를 감사하는 등 동시에 Sonnet과 Haiku의 가격이 업계의 동등한 지능형 모델보다 훨씬 저렴하다는 것을 비교할 수 있습니다. 고객을 끌어들이는 중요한 이유 중 하나입니다." Claude 3의 역량에 대해 Amazon 클라우드 기술 중화권 제품 부서 총괄 책임자인 Chen Xiaojian은 이를 전적으로 긍정했습니다.
Claude 3는 현재 다중 모드 기능을 갖추고 있으며 이미지 기반 입력을 수신할 수 있으며 그 기능은 다른 최첨단 모델과 거의 동일하며 대기 시간은 다른 다중 모드 모델보다 낮습니다.
복잡한 엔터프라이즈급 애플리케이션에 직면하여 Claude 3은 그림, 차트, 그래프, 기술 일러스트레이션 및 광학 문자 인식(OCR)을 이해하는 데 매우 능숙하므로 많은 수의 이미지를 처리해야 합니다. 차트, 보고서 및 기타 시각적 자산은 기업 사용 사례에서 탁월한 성능을 발휘합니다. 속도 측면에서는 관련 평가 결과에 따르면 Claude 3 모델이 이미지 입력 기능 측면에서 선두 모델과 동등하며, Claude 3 Haiku의 속도는 동급 기능을 갖춘 모든 주요 모델보다 뛰어납니다.
클로드 3: 효율적이고 빠른 대형 모델
그렇다면 클로드 3이 정말 그렇게 강력할까요?
이를 위해 Amazon Cloud Technology도 행사에서 일련의 필드 테스트를 진행하고 Amazon Bedrock에서 Claude3 모델의 실제 성능을 통해 대응했습니다.
첫 번째는 "Needle In A Haystack(NIAH)"라는 테스트로, "The Three-Body Problem"의 문장을 "The Wandering Earth"의 전체 텍스트에 삽입하여 대형 모델을 인식할 수 있는지 확인하는 것입니다. 짧은 시간. 주로 200K 수준의 초장거리 맥락에서 클로드 3의 정확한 회상 능력을 살펴본다.
이 작업은 간단해 보이지만 실제로 수행하려면 복잡한 논리 기능이 많이 필요합니다. 순식간에 테스트 결과가 나왔고, 클로드 3는 삽입된 문장 "응답하지 마세요, 응답하지 마세요!"를 성공적으로 인식했습니다. 나중에 원문에 특정 '대상' 문장이 명백히 인위적으로 추가된 것을 발견하는 등 테스트 자체의 한계까지 식별할 수 있다.
이후 Amazon Cloud Technology에서는 소설가 Gu Long의 스타일을 모방하고 소설 쓰기를 계속하며 코드 생성, 분석 및 최적화 등의 테스트도 시연했으며 유사한 모델보다 훨씬 더 나은 성능을 발휘하여 실용 가치가 매우 높습니다.
위의 기능을 바탕으로 Claude 3는 사진을 통해 전자상거래 제품을 정확하게 식별하고 제품 모델 디스플레이를 기반으로 제품 세부 정보를 정확하게 캡처하며 보다 정확한 제품 설명을 생성할 수 있습니다. Amazon의 전자상거래 사업에서 널리 사용되었습니다.
Amazon Bedrock으로 더욱 강력한 앱 구축
강력한 클로드3를 어떻게 편리하게 사용할 수 있을까요?
지루한 작업을 단순화하기 위해 Amazon Cloud Technology는 기업별 지식 기반이 될 Amazon Bedrock에 Knowledge Bases 지식 기반 기능을 제공합니다. 대형 모델은 강력하지만 비즈니스에 통합되기 위해서는 내부 비즈니스 지식과 결합되어야 합니다. 지식 베이스는 포괄적인 호스팅 지원을 제공하고 사용자가 개인 데이터를 대규모 모델과 결합하는 프로세스를 단순화하며 내부 지식 베이스를 쉽게 구축하는 도구입니다. Amazon Bedrock 지식 기반을 사용하면 상황별 정보를 결합하여 RAG(검색 증강 생성)가 달성되고 보다 정확하고 개인화된 응답을 제공합니다. 검색된 모든 정보에는 투명성을 보장하고 오해를 줄이기 위해 인용이 포함됩니다.
사람들이 복잡한 작업을 분류하기 위해 다단계 실행을 사용하는 것처럼 Amazon Bedrock에서 출시한 에이전트 기능도 다단계 복잡한 작업을 처리하는 데 매우 능숙합니다. 이 기능을 통해 고객은 자연어를 사용하여 다단계 비즈니스 작업을 수행할 수 있습니다. 에이전트 기능은 기본 모델의 추론 기능을 사용하여 문제를 분해하고 단계별 방식으로 사용자의 문제를 해결합니다. 에이전트는 추론 기능을 사용하여 이 요구 사항을 분해하고 단계별로 실행합니다. 에이전트는 조직의 엔터프라이즈 시스템, 프로세스, 지식 기반 및 일부 기본 빌딩 블록에 액세스한 다음 문제를 해결하기 위한 논리적 단계를 공식화하고, 호출할 API와 호출 시기를 결정하고, 트랜잭션이 올바른 순서로 완료되도록 할 수 있습니다.
동시에 사용자가 대형 모델을 사용할 때 애플리케이션의 보안도 보장해야 합니다. 이를 위해 Amazon Cloud Technology는 Responsible AI를 제안하고 Amazon Bedrock에 Guardrails 기능을 제공하여 다양한 기본 모델을 보호할 수 있습니다. 민감한 정보와 사용자 개인 정보를 보호하기 위해 콘텐츠 필터링 정책을 추가할 수 있습니다.
규정 준수 측면에서 Amazon Bedrock은 거버넌스 및 감사 요구 사항을 지원하기 위한 포괄적인 모니터링 및 로깅 기능을 제공합니다.
"생성 AI의 마지막 3km 통과"는 생성 AI 애플리케이션을 구현하는 방법에 대한 Chen Xiaojian의 요약입니다. 그는 Amazon Cloud Technology가 설계자, 제품 전문가, AI 실험실, 데이터 실험실, 신속한 프로토타이핑 팀 및 전문 서비스 팀을 포함한 포괄적인 기술 지원 리소스를 보유하고 있어 사용자가 생성 AI 엔지니어링의 최종 과제를 완료할 수 있도록 지원한다고 말했습니다.
아이폰 생성 AI 시대가 도래했다
생성적 AI가 빠르게 발전하고 있습니다. 다음으로 가장 중요한 단계는 무엇입니까?
Chen Xiaojian은 점점 더 복잡해지는 사용자 요구에 직면하여 실제로 기본 계층, 모델 및 비즈니스와의 통합을 포함하여 완료해야 할 작업이 많다고 말했습니다.
근본적인 수준에서 칩의 현 상태는 여전히 어려움에 직면해 있습니다. 반도체 칩의 급속한 기술 발전에도 불구하고 모델 매개변수 크기의 급속한 확장은 기존 칩의 처리 능력을 훨씬 뛰어넘었습니다. 수백만 개의 매개변수에서 수백억 또는 수백억 개의 매개변수에 이르기까지 모델의 복잡성은 전례 없는 속도로 증가하고 있습니다. 기본 서비스 공급자로서 Amazon Cloud Technology는 하드웨어 개발이 소프트웨어 규모의 확장을 따라갈 수 있도록 기본 하드웨어 기능을 비즈니스의 복잡성 및 대규모 모델의 복잡성과 일치시키는 방법을 지속적으로 탐색해야 합니다. 엔비디아가 출시한 B200은 하드웨어의 정점과는 거리가 멀고, 앞으로도 해야 할 일이 여전히 많다.
모델 수준에서 Claude 3이 보여준 기능은 정말 인상적입니다. 그러나 이 기능을 비즈니스에 진정으로 통합하려면 많은 노력이 필요합니다. 현재 모델은 박사 과정 학생 수준에 도달했을 수 있지만 대학 교수, 학자, 심지어 아인슈타인 수준에서 획기적인 발전을 이루기까지는 아직 갈 길이 멀습니다. 따라서 Amazon Cloud Technology를 포함한 생성적 AI 공급업체는 모델의 기능을 개선하기 위해 연구 개발에 지속적으로 투자해야 합니다.
최상위 비즈니스 통합의 경우 Amazon Q와 BI, Amazon Connect 지능형 고객 서비스 및 기타 솔루션을 결합하려는 시도를 볼 수 있습니다. 생성적 AI를 다양한 산업 및 시나리오와 통합하는 것은 거대한 프로젝트가 될 것입니다. 또한 더 강력한 모델 기능, 더 편리한 사용, 더 낮은 비용을 제공하여 모든 계층에 더 나은 서비스를 제공할 수 있는 대형 모델을 만드는 방법에 대해서도 생각해 볼 필요가 있습니다.
생성 AI의 iPhone 시대가 도래했습니다. 오늘의 데모를 통해 우리는 생성 AI가 달성할 수 있는 놀라운 일들을 엿볼 수 있었습니다. 하지만 이 위대한 비전을 실현하려면 아마존 클라우드 기술뿐만 아니라 업계 전체가 엄청난 노력을 기울여야 합니다. 제너레이티브 AI는 인류 사회에 엄청난 가치를 가져올 수 있는 잠재력을 가지고 있지만 이를 위해서는 우리가 함께 탐구하고 실천해야 합니다.
1990년대에 태어난 프로그래머가 비디오 포팅 소프트웨어를 개발하여 1년도 안 되어 700만 개 이상의 수익을 올렸습니다. 결말은 매우 처참했습니다! 고등학생들이 성인식으로 자신만의 오픈소스 프로그래밍 언어 만든다 - 네티즌 날카로운 지적: 만연한 사기로 러스트데스크 의존, 가사 서비스 타오바오(taobao.com)가 가사 서비스를 중단하고 웹 버전 최적화 작업 재개 자바 17은 가장 일반적으로 사용되는 Java LTS 버전입니다. Windows 10 시장 점유율 70%에 도달, Windows 11은 계속해서 Open Source Daily를 지원합니다. Google은 Docker가 지원하는 오픈 소스 Rabbit R1을 지원합니다. Electric, 개방형 플랫폼 종료 Apple, M4 칩 출시 Google, Android 범용 커널(ACK) 삭제 RISC-V 아키텍처 지원 Yunfeng은 Alibaba에서 사임하고 향후 Windows 플랫폼용 독립 게임을 제작할 계획