O Comet agora está disponível para todos no mundo.
Nos últimos 84 dias, milhões se juntaram à lista de espera do Comet em busca de um poderoso assistente pessoal de IA e novas maneiras de usar a Internet.
A internet é melhor no Comet.
A transferência de peso é um dos maiores gargalos ao realizar RL distribuído em modelos de alta capacidade.
Nosso primeiro blog da Perplexity Research explica como os engenheiros de inferência da Perplexity aproveitaram a comunicação ponto a ponto RDMA para desbloquear atualizações de parâmetros ultrarrápidas para modelos de trilhões de parâmetros.
Ao aproveitar primitivos RDMA de baixo nível, agendamento estático e pipelining, aceleramos as atualizações em uma ordem de magnitude, para apenas 1,3 segundos por atualização.
Apresentando a API de pesquisa Perplexity
Criamos um índice de pesquisa de bilhões de páginas da Web para fornecer informações de qualidade em tempo real da Web.
Agora, os desenvolvedores têm acesso a todo o poder do nosso índice, fornecendo os resultados mais precisos em milissegundos.