기사 출처: [제로포인트 기술]
【편집자 주】
Zero Point Youshu 회장, Black Apple Youth 공공 복지 이사장, Pegasus Brigade 공동 창립자이자 독립 언론인인 Yuan Yue는 데이터 과학, 관리 과학, 사회 단체 연구 및 기타 관련 분야에서 1,350만 단어 이상을 발표했습니다. 필드 . 2021년 세계 인공 지능 회의 알고리즘 서밋에서 Yuan Yue는 Yiou와의 독점 인터뷰를 수락하고 "알고리즘 산업화" 과정에서 기회와 도전에 대한 통찰력을 공유했습니다. 2023년 세계 인공 지능 회의에서 Yuan Yue는 다시 한 번 알고리즘 모델에 대한 미디어와의 독점 인터뷰를 수락하고 현재 알고리즘 모델 개발의 산업적 가치에 대해 설명하고 대형 모델의 맥락에서 알고리즘 모델 개발의 새로운 문제를 심화했습니다. .
Q: ChatGPT의 등장으로 모델에 대한 광범위한 논의가 촉발되었습니다. 그 전에 알고리즘에 대해 더 많이 언급했습니다. "모델"과 "알고리즘" 사이의 연결은 무엇이라고 생각하십니까?
Yuan Yue 회장: ChatGPT는 인공 지능 분야의 뜨거운 주제 중 하나로서 대형 모델에 대한 대중의 관심을 불러일으켰고 이를 새로운 개념으로 간주합니다. 사실 "알고리즘"과 "모델"은 같은 개념으로 이해할 수 있습니다. 인공 지능을 말할 때 알고리즘 모델은 핵심 기본 구성 요소입니다. 모델 정확도뿐만 아니라 표현 기술과 시스템에서도 차이가 있습니다. 임베딩 방법 .
앞으로 인공지능은 그 기능을 지원하기 위해 여러 계열의 알고리즘 모델이 필요하며, 전체 알고리즘 계열을 함께 연결하면 여러 알고리즘 모델의 구성을 직관적으로 볼 수 있습니다.
우선, 읽기 알고리즘은 인공 지능에서 핵심적인 역할을 하며, 비전, 텍스트, 숫자 또는 스캐닝 프로브의 데이터를 포함한 다양한 형태의 데이터를 자동으로 읽고 학습 및 데이터 분석 작업을 수행합니다. 마지막으로 데이터 읽기가 완료되면 분석 알고리즘을 통해 데이터를 분석하고 추가로 해당 결정 또는 목표 작업을 수행합니다.
Lingdianyoushu 회장 Yuan Yue와의 2021년 Yiou 인터뷰 첨부
추론, 예측, 차별, 검색, 추천, 매칭, 치료, 위기 관리 또는 인사 일정 등 모든 작업에는 특정 범주의 알고리즘 모델이 포함됩니다. 이러한 모델은 함께 작동하여 완전한 인공 지능 시스템을 형성하여 대중에게 탁월한 의사 결정 지원 및 실행 기능을 제공합니다. 앞으로 이러한 모델은 지속적으로 최적화되어 다양한 분야의 개발을 위한 더 넓은 적용 전망을 제공할 것입니다.
Q: 요즘 업계에서 대형, 중형, 소형 모델이 호황을 누리고 있는데 이 세 모델의 차이점은 무엇인가요? 대형 모델의 시대, 중소형 모델은 어떻게 발전할까?
Zero Point 회장 Yuan Yue: 소형 모델에서 중형 모델, 대형 모델에 이르기까지 실제로 모델의 복잡성과 적용 범위 간의 관계가 증가하는 것으로 볼 수 있습니다.
첨부 사진 Yuan Yue는 제3회 BPAA 알고리즘 응용 실습 모델에서 주제를 공유했습니다.
작은 모델은 일반적으로 특정 문제 또는 세부 시나리오를 해결하는 데 사용됩니다.주식 거래를 예로 들면 간단한 알고리즘 개발을 통해 손절매 시점과 최고 판매 시점을 설정할 수 있으며 주식이 특정 임계값까지 상승할 때 , 그것은 자동으로 판매됩니다.마찬가지로 주식이 일정 수준으로 떨어지면 더 큰 손실을 피하기 위해 자동으로 판매됩니다.
대형 모델은 고밀도 기술 학습 기술과 알고리즘 모듈의 자동 조합 기술을 포함하여 일반적인 인공 지능의 특성을 가지고 있어 보다 강력한 마이그레이션 및 사용 및 알고리즘 실행 가능성에 대비할 수 있습니다. ChatGPT로 대표되는 대형 모델을 예로 들면 초기 단계에서 다중 필드 알고리즘 모듈을 다루며 더 풍부한 모듈 조합 기능, 교차 필드 및 다중 필드 작업 기능, 의사 결정 안내 기능을 갖추고 있으며 채팅을 실현할 수 있습니다. , 의사 결정 등 기능. 한편, 대형 모델은 기술 학습 및 알고리즘 생성 기술을 사용하여 소형 및 중형 모델을 효율적으로 구축하는 데 중요한 기반을 제공합니다.
중형 모델은 소형 모델과 대형 모델의 중간이며 특정 분야에서 역할을 한다. 예를 들어, 데이트 사이트에서 상대를 찾기 위해서는 다양한 정보를 수집하고 다양한 차원에서 성과를 살펴본 후 종합적인 판단을 해야 합니다. 이 경우 알고리즘의 정확도와 정밀도가 높아야 하며, 일정 규모와 밀도의 중형 모델을 형성하기 위해서는 여러 개의 알고리즘 모듈을 통합해야 한다.
우리가 기술 모델링을 수행하기 위해 기본 알고리즘이 알고리즘 기본 도구 라이브러리의 1층으로 간주된다면 일반 알고리즘은 2층이며 GPT와 같은 대형 모델의 구성은 충분한 강력한 2층 메커니즘을 축적했습니다. 우리가 알고리즘을 개발하고 적용할 수 있도록 많은 주제가 문제를 탐색하는 데 편리한 솔루션을 제공할 뿐만 아니라 특정 분야에서 수직 응용 알고리즘을 개발할 수 있도록 3층에서 효율적인 지원을 제공합니다. 따라서 오늘날 우리는 최소한의 소형 모델 개발 역량을 형성하고 중형 모델 분야에서 실질적인 운영 역량을 형성한 다음 실질적인 의미를 지닌 대형 모델 구축으로 나아가야 합니다.
질문: 2023년 WAIC 데이터 요소 및 프라이버시 컴퓨팅 서밋 포럼에서는 데이터 순환과 프라이버시 보안 사이의 균형이 대규모 모델 애플리케이션이 직면한 중요한 문제라고 언급했습니다. 오픈 소스 모델의 중요성을 어떻게 보십니까?
회장 Yuan Yue: 알고리즘 자체의 급속한 발전은 오픈 소스에 크게 의존하고 있습니다.응용 알고리즘의 개발 도구 및 기본 조건으로서 오픈 소스 알고리즘 리소스 라이브러리는 인공 지능 개발에 매우 중요합니다. 전 세계적으로 미국의 인터넷 거대 기업, 소프트웨어 거대 기업, 유럽과 미국의 상당수 컴퓨터 대학은 기본 알고리즘의 개발 및 오픈 소스에 가장 중요한 기여를했으며 많은 오픈 소스 일반 알고리즘 및 기술이 대형모델과 중형모델 파츠도 모았습니다. . 현재 GPT-3.5와 GPT-3.0은 이미 오픈 소스화되었으며 국내 대규모 모델 프로젝트도 오픈 소스와 API 액세스 협력을 제공하여 기술 업데이트 비용을 크게 줄이고 알고리즘 개발 채널을 크게 개선합니다. 그리고 진화.
첨부사진 BPAA의 3번째 응용알고리즘 실습모델 정식 런칭
오픈 소스의 또 다른 의미는 모델의 높은 재사용성에 있습니다. 예를 들어 스마트 공무 분야에서는 시스템과 알고리즘을 구축하기 위해 더 이상 모든 부서가 필요하지 않고 재사용 가능성이 높은 모델을 통해 개발합니다. 여러 행정 부서에서 유사한 문제를 해결할 때 모듈 기술을 재사용하고 호출할 수 있으며, 서로 다른 호출 가능한 모듈 기술을 재통합 및 결합하여 새로운 심층 문제 해결 알고리즘 모델을 더 빠르고 효율적으로 개발할 수 있습니다. 따라서 대규모의 경우에도 오픈 소스와 제한적 공유는 디지털화의 효율성을 크게 향상시키는 동시에 디지털화 비용을 줄이고 반복 구축에 대한 투자를 크게 줄일 수 있습니다. 이러한 맥락에서 알고리즘 모델은 더 높은 수준으로 확장되어 사회에 더 좋고 더 스마트한 서비스를 제공할 것입니다.
전반적으로 알고리즘 모델은 투자할 가치가 있는 영역입니다. 시스템 플랫폼 개발과 반복적인 개발을 제공하는 데만 능하거나 열심인 디지털 기술 기업들에게는 전체 사업 규모가 줄어들고 있기 때문에 희소식은 아니지만 지속 가능성과 실제 수요의 관점에서 볼 때 특히 매우 중요하고 현재 경제 성장이 큰 도전에 직면하고 정부의 재정 및 세무 능력이 제한적인 상황에서 알고리즘 모델 개발을 통해 디지털 콘텐츠 구축 및 고정밀 지능형 구축 단계에 진입하는 데 필요합니다. 이 단계는 더 명확한 시공 목표와 더 높은 시공 정확도로 더 비용 효율적입니다.
Q: ChatGPT의 부상으로 대형 모델이 폭발적으로 증가했습니다. 어떤 사람들은 대형 모델이 발전 추세가 되어 AI를 일반 인공 지능으로 밀어붙이고 있다고 제안했습니다. 어떤 사람들은 대형 모델이 투자 가치가 없다고 생각합니다. 이에 대해 어떻게 생각하십니까? ?
Yuan Yue 회장: 저는 최근 업계 일부 사람들의 견해에 매우 동의합니다. 즉, 우리는 알고리즘 모델 개발에서 수직 분야와 핵심 분야에 초점을 맞추고 이러한 분야에서 기본 데이터 코퍼스를 축적하여 모델을 교육해야 합니다. 충분한 정확도를 확보하고 도메인 해결 기능과 경쟁력을 갖춘 포괄적인 솔루션으로 통합합니다. 나만의 관점과 감성으로 미디엄 모델 분야가 핵심 발전 방향이고, 이 방식이 더 패러다임적이고 투자 가치가 더 높다고 생각한다.
제3회 BPAA 응용 알고리즘 실습 모델 라운드테이블 포럼 첨부
한편으로 알고리즘 모델의 개발은 데이터에 대한 요구 사항을 변경하고 데이터의 가치, 공급 능력 및 거래 방법을 촉진하고 최적화합니다. 모델의 응용 정확도는 데이터의 지속적인 보강으로 증가하고 동시에 알고리즘 모델의 지속적인 최적화로 데이터 처리 효율성 및 데이터 재사용 능력이 크게 향상됩니다.
반면 고급 알고리즘은 더 큰 컴퓨팅 성능 지원이 필요하고 알고리즘의 지속적인 진화는 더 높은 컴퓨팅 성능을 요구하므로 고정밀 및 고처리량 알고리즘 지원이 필요합니다. 이러한 의미에서 알고리즘은 실제로 컴퓨팅 성능 및 컴퓨팅 볼륨의 개발을 위한 최신 방향과 요구 사항을 정의합니다.
질문: 국제 사회와 비교할 때 우리나라의 알고리즘 모델 개발이 ChatGPT와 같은 대형 모델과 경쟁할 수 있었다고 생각하십니까?
Yuan Yue 회장: ChatGPT의 출현으로 온라인 여론에서 소위 "백 모델 전쟁"이 발생했습니다. 현재의 소위 "대형"이 널리 주목을 받고 사람들에게 많은 인상을 주지만 이러한 모델은 실제로 사용자의 실제 응용 프로그램과 경쟁 분야에서 실제 전투 장면에 진입하지 않았으며 실질적인 경쟁력을 보였다. '백 모델 전쟁'은 그냥 허세일지도 모른다고 할 수 있다.
해외 모델과 비교할 때 우리나라 알고리즘 모델은 전체 대규모 모델 프로젝트에서 경쟁력이 부족합니다. 과학기술부 차세대인공지능개발연구센터가 발표한 '중국 인공지능 대규모 모델 맵 연구 보고서'(이하 '보고서')에 따르면 대규모 모델의 수는 중국이 개발한 세계 2위, 미국에 이어 2위지만 실제 세계에서 우리는 정말 대형 모델 수준에 도달할 수 있는 모델이 제한되어 있고 ChatGPT와 경쟁할 수 있는 모델이 없습니다. .투자 준비, 개발 목표 또는 응용 경험에 관계없이 GPT 기술에 해당하는 솔루션은 아직 없습니다.
"보고서"에 따르면 우리나라에는 매개변수 척도가 10억 이상인 대규모 모델이 79개 있으며 그 중 약 1/3은 범용 대규모 모델이고 나머지 2/3는 산업이라고 합니다. 수직 대규모 모델 또는 산업 응용 대규모 모델.
이러한 범용 대형 모델 중 1/5만이 다중 도메인 말뭉치 주석과 실제 시나리오에서의 교육 및 응용 경험을 가지고 있으며 나머지 4/5 모델은 GPT 또는 quasi-GPT와 같은 오픈 소스 알고리즘 기술을 기반으로 통합됩니다. 이러한 통합은 몇 가지 기본적인 도구와 지원을 제공하지만, 도메인별 또는 장면별 말뭉치와 모델 교육 및 실제 응용 프로그램 실습 및 탐색을 위한 기본 데이터가 부족하기 때문에 대형 모델 셸 또는 기술 프레임워크라고도 합니다.
산업 수직 대형 모델은 하나 이상의 분야에서 풍부한 응용 기능을 보유하고 있으며 현장에서 말뭉치 주석, 모델 교육 및 응용 경험을 축적하고 몇 가지 솔루션을 제공했습니다. 그러나 실제로 이러한 모델의 특정 시나리오에 대한 사전 훈련된 모델, 생성된 모델 또는 솔루션의 수는 매우 적고 일부는 실행조차 되지 않았습니다.
이러한 관점에서 디지털 솔루션에서는 알고리즘 모델에 대한 입력 수요가 매우 시급하며, 알고리즘 모델 개발, 알고리즘 모듈 및 알고리즘 시리즈 구축 등 핵심 영역에 대한 입력 및 투자 강화가 시급하다.
Q: 현재 알고리즘 모델 구축이 얼마나 어려워야 한다고 생각하십니까? 다양한 분야의 BPAA 트랙 사례 발표와 함께 알고리즘 산업의 심화 적용에 대해 어떻게 예상하십니까?
Zero Point 회장 Yuan Yue: 현재 알고리즘 모델 구성은 많은 도전에 직면해 있으며 갈 길이 멀다. 각지의 인공지능 프로젝트, 스마트시티 구축, 스마트산업 구축은 모델 개발 예산이 부족하고, 파트너, 고객, 공급자 간 모델 개발 투자의 개념과 구조에 큰 변화가 없었다. 이러한 관점에서 우리는 알고리즘 모델 분야에 투자할 뿐만 아니라 수직 메커니즘, 지능형 건설 및 콘텐츠 건설에 대한 투자를 강화해야 합니다.
인재 양성 측면에서 현재 인재 격차가 크며, 알고리즘 모델 분야의 고도화를 위해서는 보다 실용적이고 첨단인 인재의 지원이 필요한 반면, 기존 인재 육성 메커니즘의 지체는 알고리즘 모델 업계의 적극적인 참여가 필요하다. 알고리즘 모델 인재 양성 시스템 개념, 개발 기술, 응용 방법 및 실습 교육에 이르기까지 일선에서 전폭적인 지원을 제공합니다.
BPAA알고리즘 적용실습모형 상위 200팀 첨부
대규모 모델 붐의 맥락에서 알고리즘의 적용은 산업 응용을 위한 중형 모델 및 대규모 모델 개발을 위한 더 나은 운영 환경과 기술 기반을 제공하고 개발, 배포, 그리고 알고리즘 재능의 투자. 2020년 상하이 세계인공지능대회부터 알고리즘 산업화 건설을 중시하자고 제안하여 현재 3년 연속 BPAA 알고리즘 적용실습 모델을 성공적으로 개최하여 매년 우수한 알고리즘 모델 TOP50 대표를 축적하고 있습니다. Group과 Entrepreneurship Group은 각각 TOP50 알고리즘 모델의 대표자를 선정하여 지금까지 200개의 상위 알고리즘 팀을 축적했습니다. 이 팀은 중국 지역 알고리즘 모델의 선구자이자 중소형 모델에서 성과를 달성한 빌더이자 향후 대형 모델 구축을 위한 중요한 지원군입니다.
새로운 디지털 인프라의 물결 속에서 상하이는 먼저 알고리즘 요소의 건설을 강조하고 2021년에 "상하이 차세대 인공 지능 알고리즘 혁신 실행 계획"을 시작했습니다. 동시에 푸퉈 지구는 자체 알고리즘 개발 특성도 형성했습니다. BPAA 인재가 착륙하는 데 도움이 될 것입니다. 강력한 지원을 제공했습니다. 마지막으로 상하이에서 알고리즘 산업화의 고품질 개발을 촉진하기 위해 더 많은 알고리즘 인재와 팀이 참여할 것으로 예상됩니다.