Visão geral do conteúdo : "2023 Meet TVM·Beijing Station" foi realizado com sucesso no Zhongguancun Garage Coffee em 17 de junho, atraindo mais de 150 participantes de empresas e universidades, e todos tiveram uma discussão completa e animada.
Palavras-chave : Machine Learning Compilation 2023 Meet TVM
Este artigo foi publicado pela primeira vez na plataforma pública WeChat super neural HyperAI ~
Em 17 de junho, o segundo encontro offline do 2023 Meet TVM, organizado por MLC.AI e HyperAI e coorganizado por OpenBayes, foi concluído com sucesso.
Temos a honra de convidar 7 especialistas técnicos da Shanghai Jiaotong University, ARM China, Horizon e Weilai Automobile, e combinados com os casos de aplicação do compilador AI em seus próprios cenários de negócios, eles trouxeram um compartilhamento maravilhoso para os amigos em cena.
Além de amigos locais em Pequim, muitos amigos de Tianjin, Nanjing, Hangzhou, Xangai e outros lugares se juntaram.
Como o número de participantes excedeu o limite do local, muitos participantes só puderam ficar de pé e ouvir o compartilhamento
Obtenha PPT de fala e vídeo ao vivo
A seguir, uma breve introdução ao evento e uma revisão em vídeo ao vivo.
Siga a conta pública do WeChat "HyperAI Super Nervous" e responda à palavra-chave TVM Beijing em segundo plano para obter o PPT completo dos convidados.
Tópico de compartilhamento: Usando MLC-LLM para implantar modelos de linguagem em qualquer dispositivo
Introdução: Avanços significativos foram feitos nos campos de inteligência artificial generativa e modelos de linguagem grandes (LLMs), com suas notáveis capacidades e potencial para transformar fundamentalmente muitos campos. No momento, a maioria desses modelos exige grande poder de computação e requisitos de memória e não pode ser implantado em PCs pessoais, telefones celulares e dispositivos finais menores. O MLC-LLM otimiza a velocidade de execução e os requisitos de memória por meio da tecnologia de compilação, possibilitando a implantação de LLMs no lado do dispositivo e fornece uma nova infraestrutura para o desenvolvimento subsequente de modelos de linguagem.
Vídeo ao vivo:
https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333.999.0.0
Compartilhar tópico: TVM na ARM China
Introdução: Com o desenvolvimento vigoroso de aplicativos de IA, vários chips NPU são usados em dispositivos de ponta para acelerar aplicativos de IA. Como se adaptar rapidamente a várias estruturas de aprendizado de máquina e sistemas operacionais tornou-se um problema. Por meio da integração de sua própria cadeia de ferramentas e TVM, a ARM China realizou várias funções práticas, como divisão de gráficos e execução heterogênea automática, ajudando os clientes a implantar rapidamente aplicativos de IA nos chips ARM China Zhouyi NPU.
Vídeo ao vivo:
https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333.337.search-card.all.click
Tópico de compartilhamento: Prática de Compilação e Programação Heterogênea de IA
Introdução: os chips de IA estão em constante evolução em direção à heterogeneidade fortemente acoplada, e a programação do chip e a otimização do desempenho são questões-chave que o setor vem tentando resolver. Esse compartilhamento introduz principalmente algumas práticas do Horizon em termos de otimização de compilação de IA, programabilidade, etc., e conduz discussões aprofundadas sobre algumas questões-chave.
Vídeo ao vivo:
https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333.337.search-card.all.click
Compartilhar tópico: TVM no NIO
Introdução de conteúdo: O campo da direção autônoma é um campo onde coexistem desafios e oportunidades. Com iterações de produtos e requisitos cada vez maiores dos usuários para experiência de direção, os motores de IA comuns não podem suportar linhas de produção de produtos complexos de forma eficiente e segura. Com base no TVM, desenvolvemos o compilador de IA autodesenvolvido da NIO, que resolveu alguns problemas comuns no campo da direção autônoma e formou uma solução sistemática e uma arquitetura técnica.
Meng Tong, Chen Xi (conhecido como aaronxic) e Wang Lulu, três engenheiros da Weilai Automobile, explicaram detalhadamente a tecnologia e a arquitetura envolvidas.
Vídeo ao vivo:
https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333.337.search-card.all.click
Tópico de compartilhamento: Otimização de compilação de rede neural dinâmica
Resumo: As redes neurais dinâmicas mostraram vantagens importantes sobre as redes neurais estáticas em termos de precisão, eficiência computacional e adaptabilidade. No entanto, as estruturas e compiladores de aprendizado profundo existentes se concentram principalmente na otimização de redes estáticas com execução determinística, perdendo oportunidades de otimização em redes dinâmicas. A chave para otimizar uma rede dinâmica é rastrear o fluxo de dados dentro dela. Este compartilhamento detalha nosso trabalho na compilação de redes neurais dinâmicas.
Vídeo ao vivo:
https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333.337.search-card.all.click
Junte-se à comunidade chinesa da TVM para desbloquear mais cidades
Após a estação de Xangai em março e a estação de Pequim em junho, estamos muito felizes em reunir engenheiros preocupados com compiladores de IA em diferentes cidades para fornecer uma plataforma para trocas entre pares e troca de necessidades. O terceiro encontro off-line deste ano, planejamos Realize-o em Shenzhen em setembro. Naquela época, todas as empresas e parceiros da comunidade são bem-vindos para participar da co-criação e continuar a aumentar a influência da comunidade chinesa da TVM!
Além disso, também estamos recrutando ativamente colaboradores da comunidade chinesa da TVM, se você quiser ser um membro nosso, sinta-se à vontade para adicionar WeChat antonia0912, aguardando seu entusiasmo em participar!
Neste momento estamos a recrutar:
-
Voluntários de tradução de documentos em chinês da TVM, para garantir que os documentos em chinês e em inglês sejam mantidos em sincronia e fornecer infraestrutura para mais engenheiros que desejam aprender e entender a TVM (visite o site oficial: tvm.hyper.ai)!
-
Voluntários de atividade, responsáveis pela organização, planejamento e execução de atividades em vários locais, e estabeleceram nossas bases em vários centros de Internet em todo o país.
-
Voluntários de perguntas e respostas, familiarizados com TVM e dispostos a contribuir com insights e ideias para amigos que encontram problemas na comunidade e ajudar todos a resolver problemas técnicos.
Mais cidades continuarão a ser desbloqueadas em 2023, junte-se a nós para criar a comunidade de compiladores de IA mais ativa da China!
Finalmente, aqui está uma foto de grupo ao vivo❤️
Perfil do patrocinador e parceiro
Como organizadora deste evento, a comunidade MLC.AI (https://mlc.ai/) foi criada em junho de 2022, liderada por Chen Tianqi, o principal inventor do Apache TVM e um conhecido jovem estudioso no campo da aprendizado de máquina, para lançar o O curso on-line MLC apresenta sistematicamente os elementos-chave e os conceitos principais da compilação de aprendizado de máquina.
Em novembro de 2022, com os esforços conjuntos dos voluntários da comunidade MLC.AI, o primeiro documento chinês TVM completo foi lançado e hospedado com sucesso no site oficial do HyperAI, fornecendo ainda mais desenvolvedores nacionais interessados em compilação de aprendizado de máquina. Entre em contato e conheça a infraestrutura de uma nova tecnologia - documentação.
Em 2023, a comunidade lançará a série de atividades "2023 Meet TVM" em várias cidades do País. Empresas e parceiros da comunidade são bem-vindos para participar da cocriação.
Curso Online MLC: https://mlc.ai/
Documentação chinesa da TVM: https://tvm.hyper.ai/
HyperAI, a principal comunidade de inteligência artificial e computação de alto desempenho na China, está comprometida em fornecer recursos públicos de alta qualidade no campo da ciência de dados para desenvolvedores domésticos. Até agora, forneceu nós de download domésticos para mais de 1200 conjuntos de dados públicos , e oferece suporte a mais de 300 termos de consulta relacionados a inteligência artificial e computação de alto desempenho, hospedando um documento chinês TVM completo e lançará em breve vários tutoriais básicos e populares.
Visite o site oficial: https://hyper.ai/
A OpenBayes é uma provedora líder de serviços de computação de alto desempenho na China. Ao incorporar modelos clássicos de ecologia de software e aprendizado de máquina a uma nova geração de chips heterogêneos, fornece produtos de computação de ciência de dados mais rápidos e fáceis de usar para empresas industriais e universidades científicas pesquisa.Seus produtos foram adotados por dezenas de ambientes industriais de grande escala ou pelos principais institutos de pesquisa científica.
Visite o site oficial: https://openbayes.com/
Garage Coffee é uma plataforma que reúne empreendedores. Contando com coffee shops, oferece soluções abrangentes de investimento e financiamento para start-ups, ajudando os participantes do projeto a levantar fundos rapidamente e promover o rápido desenvolvimento. Ao mesmo tempo, oferece aconselhamento empresarial , encaixe de recursos e publicidade. Relatórios e outros serviços de valor agregado de alta qualidade e ajudam os investidores a encontrar rapidamente bons projetos, fornecer evidências para seu investimento principal, investimento de acompanhamento, produção de recursos, produção de experiência, etc., e promover o desenvolvimento colaborativo de grupos de investidores em vários níveis.
Este artigo foi publicado pela primeira vez na plataforma pública WeChat super neural HyperAI ~