OpenAI, Google, Microsoft e Anthropic, quatro das maiores empresas de inteligência artificial (IA), fundaram uma nova associação industrial para garantir o “desenvolvimento seguro e responsável” dos chamados modelos de IA de “fronteira”.
Os desenvolvedores de tecnologias de IA amplamente utilizadas, incluindo OpenAI, Microsoft, Google e Anthropic, criaram o Frontier Model Forum em resposta às crescentes demandas por regulamentação governamental. Essa aliança busca fornecer avaliações técnicas e referências, além de promover melhores práticas e padrões, contando com a experiência das empresas membros.
Embora atualmente tenha apenas quatro membros, o Frontier AI Model Forum recebe novos participantes. Para se qualificar, uma empresa deve trabalhar em modelos de IA inovadores e demonstrar um “forte compromisso com a segurança dos modelos de fronteira”.
O que o Frontier AI Model Forum oferece?
No cerne da missão do fórum está a discussão sobre a IA de fronteira, ou seja, modelos de inteligência artificial e aprendizado de máquina de última geração que são considerados perigosos o suficiente para representar “riscos sérios à segurança pública”. De acordo com o Google, aqui estão os principais objetivos do Frontier AI Model Forum:
- A pesquisa em segurança de IA está sendo impulsionada para incentivar a criação cuidadosa de modelos de última geração, reduzir os perigos potenciais e abrir caminho para avaliações imparciais e padronizadas de desempenho e segurança.
- Educar o público sobre a natureza, capacidades, limitações e efeitos da tecnologia, determinando os melhores métodos para o seu desenvolvimento e implementação responsável.
- Trabalhar em conjunto com tomadores de decisão, acadêmicos, sociedade civil e empresas para disseminar informações sobre ameaças à confiança e segurança.
- Intensificar os esforços para criar software que possa ajudar a enfrentar alguns dos problemas mais urgentes da sociedade, como mudanças climáticas, diagnóstico e prevenção de doenças e cibersegurança.
Os principais objetivos do Fórum serão aumentar a pesquisa em segurança de IA, melhorar a comunicação entre empresas e governos, e determinar as melhores práticas para desenvolver e implementar modelos de IA. O estudo de segurança de IA envolverá testar e comparar diferentes modelos de IA e disponibilizar os resultados em uma biblioteca pública, para que todos os principais atores do setor possam compreender os riscos e tomar precauções.
O Frontier Model Forum formará um conselho consultivo com membros de diversas disciplinas e perspectivas para ajudar a decidir sobre táticas e metas. Além disso, as empresas pioneiras estabelecerão estruturas institucionais que facilitem a construção de consensos entre todas as partes relevantes em questões relacionadas ao desenvolvimento de IA.
O Frontier AI Model Forum também utilizará os dados e recursos que acadêmicos, ONGs e outras partes interessadas contribuíram. Ele seguirá e apoiará os padrões estabelecidos por projetos de IA preexistentes, como a Partnership on AI e a MLCommons, para garantir sua implementação bem-sucedida.
Como o Frontier AI Model Forum funcionará?
Nos próximos meses, o Frontier Model Forum formará um Conselho Consultivo composto por indivíduos com ampla gama de experiências e perspectivas para auxiliar na definição da estratégia e objetivos da organização.
Também serão estabelecidos arranjos institucionais-chave, como uma carta de princípios, governança e finanças, liderados por um grupo de trabalho e um conselho executivo. Nas próximas semanas, o fórum buscará consultas com a sociedade civil e o governo sobre a estrutura do Fórum e métodos eficazes de colaboração.
Quando tiver oportunidade, o Frontier Model Forum está ansioso para emprestar sua experiência a programas nacionais e globais existentes, como o processo G7 Hiroshima, o trabalho da OCDE sobre riscos, padrões e impacto social da inteligência artificial e o Conselho de Comércio e Tecnologia entre EUA e UE.
Cada uma das iniciativas do Fórum, ou “linhas de trabalho”, buscará construir sobre o progresso já alcançado pelo mundo empresarial, setor sem fins lucrativos e academia. O Fórum buscará formas de se envolver e apoiar importantes esforços multilaterais, como a Partnership on AI e a MLCommons, ambas com contribuições significativas em toda a comunidade de IA.
Para informações mais detalhadas, clique aqui.
