Com o uso crescente do Large Language Model (LLM) em vários campos, como empresas públicas e instituições públicas, espera-se que o tamanho do mercado global de LLM se expanda rapidamente em um CAGR de 35,9% deste ano até 2030.
Enquanto isso, Afreeca (CEO Kang Seon-jeon), empresa especializada no desenvolvimento de inteligência artificial (IA) e plataforma de gerenciamento de nuvem, realizará a “Exposição Internacional da Indústria de Inteligência Artificial (doravante denominada AI EXPO KOREA 2024)” no COEX em Samsung-dong, Seul, por três dias a partir de 1º de maio. “Participação em.
AI EXPO 2024 é um evento único de IA, o maior da Ásia e uma das cinco principais exposições de inteligência artificial (IA) do mundo. Nesta exposição, a Afreeca planeja apresentar todos os serviços abrangentes relacionados ao LLM, desde consultoria, incluindo seu próprio serviço LLM, Gazelle RAG, até a construção de um sistema LLM baseado na plataforma MLOps Cheetah.
Gazelle RAG aplica LLM (Retrieval Augmented Generation) da Aprila para fornecer aos usuários respostas precisas sem alucinações e ajusta o modelo de incorporação e LLM proprietário para fornecer respostas com base no conhecimento interno. Sua principal característica é fornecer respostas precisas.
Em particular, pode ser construído num ambiente fechado para evitar riscos de fuga de dados que preocupam instituições públicas e empresas privadas, garantindo a fiabilidade e segurança dos dados. Além disso, é fornecida consultoria para todo o processo, desde o aprendizado para construir dados até o ajuste fino, para permitir o desenvolvimento de mecanismos específicos de domínio para cada setor, permitindo uma entrega de LLM mais rápida e eficaz.
Cheetah é uma plataforma MLOps que oferece suporte a todo o processo, desde o gerenciamento dos dados necessários para desenvolver um modelo de IA até o desenvolvimento e implantação do modelo e execução da infraestrutura de HPC. Ele oferece conveniência para não desenvolvedores desenvolverem facilmente IA e funcionalidades de alto desempenho para especialistas.
O Cheetah, que já comprovou seu desempenho e estabilidade fornecendo para grandes instituições públicas e empresas como a Agência Nacional de Polícia, o Instituto de Ciência e Tecnologia de Gwangju e Hyundai Glovis, está se expandindo para a plataforma LLMops adicionando missões LLM especiais.
Primeiro, a partir da função de distribuição e monitoramento do modelo LLM baseado em RAG, as funções de ajuste fino do modelo LLM, funções de gerenciamento rápido e gerenciamento de dados vetoriais serão suportadas em série. Com isso, espera-se que as empresas que desejam aplicar a tecnologia LLM a dados de segurança interna em um ambiente fechado ou empresas que não possuem pessoal profissional consigam criar facilmente um sistema para entregar e operar o LLM.
“Apresentaremos ativamente nossa tecnologia e visão como uma empresa de IA que fornece soluções abrangentes necessárias para apresentar IA generativa, de LLM a LLMops, aos visitantes nacionais e estrangeiros desta exposição”, disse Kang Seon-jeon, CEO da Aprica.
Ao mesmo tempo, a Afreeca não só desenvolve e fornece serviços relacionados com IA, mas também “Serengeti”, uma plataforma abrangente para gestão integrada de múltiplas nuvens (CMP) e criação e operação de sistemas de informação nativos da nuvem (PaaS). Serengeti oferece suporte ao gerenciamento de diferentes ambientes de nuvem, VMs e contêineres em um formato unificado. Atualmente, o Serengeti é usado pela Plataforma de Teste da Plataforma Digital do Governo, pela Korea Industrial Park Corporation, pelo Korea Employment Information Service e pela Daejeon University.
“Leitor implacável. Especialista em mídia social. Amante de cerveja. Fanático por comida. Defensor de zumbis. Aficionado por bacon. Praticante da web.”