Chatbots Exageram Pesquisas Científicas
Nesta edição do The Prototype, abordamos por que você ainda não pode confiar nos chatbots, uma nova química de bateria que pode tornar seu próximo veículo elétrico mais barato, como construir uma bomba de buraco negro e muito mais.
Esta semana, usuários do chatbot Grok da xAI descobriram que, independentemente das perguntas feitas, sempre recebiam respostas relacionadas a alegações de “genocídio branco” na África do Sul. A empresa culpou isso por uma “modificação não autorizada”, que instruiu o programa a fornecer uma resposta específica sobre um tema político, o que, segundo eles, violava suas políticas internas.
Esse incidente serve como lembrete de que modelos de IA comerciais não são neutros em valores. Algoritmos, desde os que impulsionam chatbots até os que alimentam recomendações em plataformas como Google, TikTok e Instagram, são uma complexa mistura de preferências programadas para priorizar certos incentivos.
Além disso, qualquer pessoa que tenha interagido com um modelo de linguagem grande sabe que estes tendem a apresentar excesso de confiança e imprecisão em suas respostas. Um estudo recente constatou que isso é especialmente verdadeiro para questões científicas. Os pesquisadores descobriram que os principais chatbots comerciais geralmente generalizavam ou exageravam os resultados de artigos científicos quando solicitados a resumi-los – e esse efeito agravava ainda mais quando os bots eram orientados a evitar imprecisão ou exagero.
À medida que o uso de chatbots de IA se torna mais difundido, é importante lembrar que ainda não se pode confiar plenamente neles. Essa lição ficou evidente quando duas firmas de advocacia na Califórnia foram penalizadas com US$ 31.000 por apresentarem documentos legais que citavam casos inexistentes, “alucinados” por um modelo de linguagem.
A Nova Bateria da GM Reduzirá o Custo de Seus Caminhões Elétricos em Mais de US$ 6.000
A General Motors, que possui a maior linha de veículos elétricos nos EUA, planeja reduzir o custo de suas picapes recarregáveis e SUVs grandes em milhares de dólares graças a um novo tipo de bateria. Esse sistema utiliza uma quantidade maior do material barato manganês e bem menos dos caros metais cobalto e níquel, sem comprometer a autonomia.
O cátodo rico em lítio-manganês (LMR), desenvolvido por GM em parceria com a LG Energy ao longo de uma década, reduzirá o custo dos pacotes de bateria em veículos elétricos como o Chevrolet Silverado EV, o GMC Hummer e o Cadillac Escalade em mais de US$ 6.000. Esse sistema oferece uma autonomia quase equivalente à das células de íon-lítio “de alto níquel”, atualmente usadas na maioria dos veículos elétricos, concorrendo em preço com as células de fosfato de lítio-ferro, fabricadas na China, que são mais pesadas e oferecem menor autonomia. Além disso, as novas baterias são suficientemente duráveis para serem recarregadas frequentemente por pelo menos oito anos.
“Enxergamos isso como uma bateria revolucionária para caminhões elétricos, que definirá um novo padrão de desempenho nesse segmento”, afirmou o executivo responsável pelo projeto, que já atuou na operação de baterias da Tesla e trabalhou na Panasonic. “Com o LMR, podemos oferecer mais de 400 milhas de autonomia, enquanto reduzimos nossos custos.”
Os pacotes LMR serão fabricados pela Ultium Cells, joint venture entre GM e LG Energy, em Michigan e Ohio, com o objetivo de obter a maior parte do lítio, manganês e demais matérias-primas de fornecedores não chineses. A GM também pretende reduzir os custos das baterias ao adotar uma célula “prismática” e plana, em substituição ao formato cilíndrico tradicional. “Isso, por si só, reduzirá o número de peças em nossos pacotes de baterias em mais de 50%, fazendo uma enorme diferença”, explicou o executivo.
Descoberta da Semana: Físicos Constroem uma “Bomba de Buraco Negro”
O princípio da superradiância – o mecanismo teórico pelo qual buracos negros geram enormes quantidades de energia – foi demonstrado em laboratório pela primeira vez. Anteriormente, acreditava-se ser impossível construir um dispositivo para isso, que os físicos brincavam chamar de “bomba de buraco negro”, pois ele precisaria girar tão rapidamente que se destruiria. Contudo, a equipe da Universidade de Southampton encontrou uma solução ao gerar um campo magnético em uma frequência que permitia ao dispositivo girar sem se desintegrar. Foram necessárias algumas tentativas. “A maior dificuldade foi que as coisas estavam constantemente explodindo”, relatou a pesquisadora responsável pelo estudo.
Fronteira Final: Força Aérea Escolhe a Rocket Lab para Teste de Carga
O Laboratório de Pesquisa da Força Aérea selecionou o foguete Neutron, da Rocket Lab, para apoiar um teste em seu programa de carga ponto a ponto, que visa transportar suprimentos essenciais entre duas regiões do planeta em um intervalo de tempo muito menor do que o oferecido por um avião. O teste está previsto para 2026, e o primeiro lançamento comercial do Neutron deve ocorrer ainda este ano.
Outros Textos que Escrevi Esta Semana
Substituí uma colega na elaboração de uma newsletter sobre inteligência artificial, na qual abordei temas como um novo chip que pode reduzir pela metade o consumo de energia da IA, a possibilidade de manipular chatbots destinados a estudantes para fornecer receitas de fentanil, a renegociação da parceria entre OpenAI e Microsoft, entre outros assuntos.
Em outra newsletter sobre saúde, foram discutidos temas como a ordem executiva de precificação de medicamentos, a trajetória para se tornar bilionário de um dos cofundadores de uma empresa de saúde e os custos econômicos decorrentes da redução nos gastos com pesquisa, além de outros tópicos relevantes.
Em um canal de notícias, participei de uma discussão sobre propostas de cortes no Medicaid, o plano do governo para reduzir os preços dos medicamentos e depoimentos recentes relacionados a temas de saúde.
Curiosidades de Ciência e Tecnologia
Cientistas, durante um experimento no Large Hadron Collider, obtiveram um resultado surpreendente ao transformar, acidentalmente, chumbo em ouro – embora se tratasse de um isótopo de ouro extremamente instável que se fragmentou em menos de um segundo.
Uma empresa de interface cérebro-computador anunciou que seu dispositivo agora se integra às novas ferramentas de acessibilidade da Apple, permitindo aos usuários controlar iPhones e iPads apenas com o pensamento.
A SpaceX acionou com sucesso os motores do foguete para o Starship, abrindo caminho para um novo voo de teste ainda este mês, apesar dos testes anteriores terem terminado com a explosão do primeiro estágio da espaçonave.
Um bebê nascido com uma rara doença genética incurável tornou-se o primeiro a receber uma terapia personalizada que corrigiu seu gene defeituoso.
Cientistas desenvolveram uma “tinta” química capaz de atrair larvas de coral para recifes moribundos, o que pode ajudar na revitalização desses ecossistemas.
Dica de Ciência: Treine Como Ted Lasso
A imagem hollywoodiana de um treinador esportivo é a de um gestor meticuloso e exigente, que desmonta seus jogadores para depois reconstruí-los. Contudo, um estudo recente com atletas universitários sugere que essa abordagem pode gerar estresse e esgotamento a longo prazo. Em contrapartida, treinadores que oferecem suporte – incentivando a liberdade de escolha, a colaboração e o crescimento pessoal – conseguem desenvolver atletas mais resilientes e com menor probabilidade de burnout.
O Que Está Me Divertindo Esta Semana
Recentemente, assisti ao novo filme da Marvel, Thunderbolts, e a experiência foi extremamente divertida. O longa reúne personagens que, embora tenham tido papéis secundários em outros filmes ou séries, se unem para formar sua própria equipe de super-heróis. Florence Pugh brilha no papel de Yelena Belova, enquanto Julia-Louis Dreyfus se destaca como a diretora da CIA, cuja trama impulsiona a ação. Fiquei agradavelmente surpreso ao ver o filme optar por um desfecho mais centrado nos personagens, evitando a típica batalha de clímax dos filmes de quadrinhos.
