Client: Dell
Format: Whitepaper
Size: 421 KB
Language: Português
Date: 27.08.2024
Por que desenvolver e implantar tecnologia de IA em estações de trabalho faz sentido
A IA decolou como um importante recurso diferencial em todos os setores, e o hardware necessário para executar a IA está evoluindo rapidamente. O setor de tecnologia está muito concentrado no crescimento exponencial da maioria dos modelos avançados de IA . As discussões são sobre dezenas de bilhões de parâmetros, redução da precisão, expansão da memória, necessidades semelhantes à computação com alto desempenho (HPC) como para treinamento e inferência de IA, e racks de servidores acelerados. Na verdade, essa extraordinária escala de computação de IA é a exceção, especialmente nas empresas.
No momento, muitas empresas trabalham arduamente nas iniciativas de IA, inclusive de IA generativa, que não requerem um supercomputador. De fato, muito do desenvolvimento da IA — e cada vez mais a implementação de IA, especialmente na borda — está ocorrendo em workstations avançadas. As workstations têm diversas vantagens para o desenvolvimento e a implementação da IA. Elas dispensam cientistas ou desenvolvedores de IA da tarefa de negociar o tempo do servidor, fornecem aceleração da GPU, embora as GPUs baseadas em servidor ainda não estejam facilmente disponíveis no datacenter, são extremamente acessíveis e representam um tamanho menor e despesa única, em vez de uma conta que se acumula rapidamente para uma instância de nuvem, , além de existir o conforto de saber que os dados confidenciais estão protegidos com segurança local (on-premises). Desse modo, elas também aliviam os cientistas ou desenvolvedores da ansiedade quanto aos custos enquanto estão apenas experimentando modelos de IA.
A IDC presencia um cenário de implementação de IA mais rápido na borda do que local (on-premises) ou na nuvem. Aqui também, as workstations desempenham um papel cada vez mais essencial como plataformas de inferência de IA, geralmente sem exigir GPUs, mas realizando a inferência em CPUs otimizadas por software. Os casos de uso de inferência de IA na borda em workstations estão crescendo rapidamente. Como exemplo podemos citar AIOps, resposta a desastres, radiologia, exploração de petróleo e gás, gestão de terras, telemedicina, gestão de tráfego, monitoramento de fábricas e drones.
No momento, muitas empresas trabalham arduamente nas iniciativas de IA, inclusive de IA generativa, que não requerem um supercomputador. De fato, muito do desenvolvimento da IA — e cada vez mais a implementação de IA, especialmente na borda — está ocorrendo em workstations avançadas. As workstations têm diversas vantagens para o desenvolvimento e a implementação da IA. Elas dispensam cientistas ou desenvolvedores de IA da tarefa de negociar o tempo do servidor, fornecem aceleração da GPU, embora as GPUs baseadas em servidor ainda não estejam facilmente disponíveis no datacenter, são extremamente acessíveis e representam um tamanho menor e despesa única, em vez de uma conta que se acumula rapidamente para uma instância de nuvem, , além de existir o conforto de saber que os dados confidenciais estão protegidos com segurança local (on-premises). Desse modo, elas também aliviam os cientistas ou desenvolvedores da ansiedade quanto aos custos enquanto estão apenas experimentando modelos de IA.
A IDC presencia um cenário de implementação de IA mais rápido na borda do que local (on-premises) ou na nuvem. Aqui também, as workstations desempenham um papel cada vez mais essencial como plataformas de inferência de IA, geralmente sem exigir GPUs, mas realizando a inferência em CPUs otimizadas por software. Os casos de uso de inferência de IA na borda em workstations estão crescendo rapidamente. Como exemplo podemos citar AIOps, resposta a desastres, radiologia, exploração de petróleo e gás, gestão de terras, telemedicina, gestão de tráfego, monitoramento de fábricas e drones.
