A edição de hoje
Modelos de inteligência artificial escaparam autonomamente do ambiente controlado em que eram testados para atacar outras plataformas.
Dois modelos de inteligência artificial (IA) da OpenAI que escaparam autonomamente do ambiente controlado em que eram testados para atacar o site Hugging Face também se infiltraram noutras plataformas, revelou a empresa.
De acordo com um relatório do incidente atualizado, uma dessas plataformas foi usada como intermediária para preparar o ataque à Hugging Face, biblioteca de IA na qual os dois modelos procuravam respostas para testes enviados pelos programadores da OpenAI.
No total, foram pirateadas quatro contas associadas a outras plataformas, com o mesmo objetivo do ataque à Hugging Face. A OpenAI não divulgou os nomes das entidades visadas.
As duas IA utilizaram também vários sites de acesso público para copiar ou testar código de programação, mas sem ir além da conta de um utilizador comum.
A Hugging Face, que publicou o seu próprio relato detalhado dos acontecimentos, acredita que a invasão foi uma tentativa dos dois modelos de defraudar a avaliação da OpenAI.
As IA queriam roubar as soluções dos testes em vez de tentarem resolvê-los por conta própria.
Para efeitos de teste ao potencial de cibersegurança dos modelos, os informáticos da OpenAI tinham reduzido as medidas de segurança.
A empresa revelou que, para além do seu modelo mais avançado, o GPT-5.6 Sol, as outras IA envolvidas no incidente não se destinavam à comercialização e eram exclusivamente para uso interno.
O relatório da Hugging Face indica que o ataque durou pelo menos cinco dias até o site conseguir contê-lo.
Nenhum dos documentos o menciona explicitamente, e a empresa não respondeu a uma pergunta da AFP sobre o assunto, mas a OpenAI poderá ter tomado conhecimento da violação vários dias após esta ter ocorrido.
"Um hacker humano poderia ter encontrado e explorado as mesmas vulnerabilidades", ressalvou a empresa.
O que fez a diferença foi o enorme volume de tentativas, com nada menos que 17.600 processos contra a Hugging Face, marcados por muitas falhas, mas também por sucessos suficientes para que os modelos atingissem os seus objetivos.
"A escala e a velocidade destas ações excedem em muito as capacidades de um ser humano que opera manualmente", argumentou a Hugging Face.
Esta fuga de modelo não é a primeira a ser documentada, mas é considerada de longe a mais grave até à data.
Alimentou ainda mais o já aceso debate sobre a aceleração da IA, as suas capacidades em constante expansão e a dificuldade de a controlar.
Durante o incidente da OpenAI, os modelos utilizaram métodos que sabiam contradizer o cenário de teste, sem informar os programadores.
Na terça-feira, mais de mil funcionários de grandes empresas de IA, incluindo vários executivos de topo, pediram ao governo norte-americano que ajude a "atrasar" o lançamento de novos modelos, para dar tempo ao ecossistema tecnológico para se preparar. Numa petição, defendem que os Estados Unidos assumam a liderança na criação de um organismo internacional de referência para a avaliação e supervisão da IA.
Questionado sobre o assunto, o Presidente Donald Trump defendeu ser necessário "cuidado" e encontrar um equilíbrio no controlo de agentes de IA sem que o país seja ultrapassado pela China no desenvolvimento da tecnologia.
"Quem ganhar" esta corrida da IA "poderá muito bem levar todos os despojos", avisou Trump.
A comunidade de IA está ainda mais preocupada ao observar a aproximação da fase de "autoaperfeiçoamento recursivo", na qual a inteligência artificial seria capaz de conceber o seu próprio sucessor, numa sequência que poderia repetir-se vezes sem conta.
Os modelos mais recentes da OpenAI e da Anthropic foram parcialmente programados pela própria IA.
Tem sugestões ou notícias para partilhar com o CM?
Envie para geral@cmjornal.pt
o que achou desta notícia?
concordam consigo
Comentários
Registámos a sua denúncia!
A redação do CM irá fazer uma avaliação e remover o comentário caso não respeite as Regras desta Comunidade.
Estimado leitor!
O seu comentário contem palavras ou expressões que não cumprem as regras definidas para este espaço. Por favor reescreva o seu comentário.
O CM relembra a proibição de comentários de cariz obsceno, ofensivo, difamatório gerador de responsabilidade civil ou de comentários com conteúdo comercial.
O Correio da Manhã incentiva todos os Leitores a interagirem através de comentários às notícias publicadas no seu site, de uma maneira respeitadora com o cumprimento dos princípios legais e constitucionais. Assim são totalmente ilegítimos comentários de cariz ofensivo e indevidos/inadequados. Promovemos o pluralismo, a ética, a independência, a liberdade, a democracia, a coragem, a inquietude e a proximidade.
Ao comentar, o Leitor está a declarar que é o único e exclusivo titular dos direitos associados a esse conteúdo, e como tal é o único e exclusivo responsável por esses mesmos conteúdos, e que autoriza expressamente o Correio da Manhã a difundir o referido conteúdo, para todos e em quaisquer suportes ou formatos actualmente existentes ou que venham a existir.
O propósito da Política de Comentários do Correio da Manhã é apoiar o leitor, oferecendo uma plataforma de debate, seguindo as seguintes regras:
Recomendações:
- Os comentários não são uma carta. Não devem ser utilizadas cortesias nem agradecimentos;
Sanções:
- Se algum leitor não respeitar as regras referidas anteriormente (pontos 1 a 11), está automaticamente sujeito às seguintes sanções:
- O Correio da Manhã tem o direito de bloquear ou remover a conta de qualquer utilizador, ou qualquer comentário, a seu exclusivo critério, sempre que este viole, de algum modo, as regras previstas na presente Política de Comentários do Correio da Manhã, a Lei, a Constituição da República Portuguesa, ou que destabilize a comunidade;
- A existência de uma assinatura não justifica nem serve de fundamento para a quebra de alguma regra prevista na presente Política de Comentários do Correio da Manhã, da Lei ou da Constituição da República Portuguesa, seguindo a sanção referida no ponto anterior;
- O Correio da Manhã reserva-se na disponibilidade de monitorizar ou pré-visualizar os comentários antes de serem publicados.
Se surgir alguma dúvida não hesite a contactar-nos internetgeral@medialivre.pt ou para 210 494 000
O Correio da Manhã oferece nos seus artigos um espaço de comentário, que considera essencial para reflexão, debate e livre veiculação de opiniões e ideias e apela aos Leitores que sigam as regras básicas de uma convivência sã e de respeito pelos outros, promovendo um ambiente de respeito e fair-play.
Só após a atenta leitura das regras abaixo e posterior aceitação expressa será possível efectuar comentários às notícias publicados no Correio da Manhã.
A possibilidade de efetuar comentários neste espaço está limitada a Leitores registados e Leitores assinantes do Correio da Manhã Premium (“Leitor”).
Ao comentar, o Leitor está a declarar que é o único e exclusivo titular dos direitos associados a esse conteúdo, e como tal é o único e exclusivo responsável por esses mesmos conteúdos, e que autoriza o Correio da Manhã a difundir o referido conteúdo, para todos e em quaisquer suportes disponíveis.
O Leitor permanecerá o proprietário dos conteúdos que submeta ao Correio da Manhã e ao enviar tais conteúdos concede ao Correio da Manhã uma licença, gratuita, irrevogável, transmissível, exclusiva e perpétua para a utilização dos referidos conteúdos, em qualquer suporte ou formato atualmente existente no mercado ou que venha a surgir.
O Leitor obriga-se a garantir que os conteúdos que submete nos espaços de comentários do Correio da Manhã não são obscenos, ofensivos ou geradores de responsabilidade civil ou criminal e não violam o direito de propriedade intelectual de terceiros. O Leitor compromete-se, nomeadamente, a não utilizar os espaços de comentários do Correio da Manhã para: (i) fins comerciais, nomeadamente, difundindo mensagens publicitárias nos comentários ou em outros espaços, fora daqueles especificamente destinados à publicidade contratada nos termos adequados; (ii) difundir conteúdos de ódio, racismo, xenofobia ou discriminação ou que, de um modo geral, incentivem a violência ou a prática de atos ilícitos; (iii) difundir conteúdos que, de forma direta ou indireta, explícita ou implícita, tenham como objetivo, finalidade, resultado, consequência ou intenção, humilhar, denegrir ou atingir o bom-nome e reputação de terceiros.
O Leitor reconhece expressamente que é exclusivamente responsável pelo pagamento de quaisquer coimas, custas, encargos, multas, penalizações, indemnizações ou outros montantes que advenham da publicação dos seus comentários nos espaços de comentários do Correio da Manhã.
O Leitor reconhece que o Correio da Manhã não está obrigado a monitorizar, editar ou pré-visualizar os conteúdos ou comentários que são partilhados pelos Leitores nos seus espaços de comentário. No entanto, a redação do Correio da Manhã, reserva-se o direito de fazer uma pré-avaliação e não publicar comentários que não respeitem as presentes Regras.
Todos os comentários ou conteúdos que venham a ser partilhados pelo Leitor nos espaços de comentários do Correio da Manhã constituem a opinião exclusiva e única do seu autor, que só a este vincula e não refletem a opinião ou posição do Correio da Manhã ou de terceiros. O facto de um conteúdo ter sido difundido por um Leitor nos espaços de comentários do Correio da Manhã não pressupõe, de forma direta ou indireta, explícita ou implícita, que o Correio da Manhã teve qualquer conhecimento prévio do mesmo e muito menos que concorde, valide ou suporte o seu conteúdo.
ComportamentoO Correio da Manhã pode, em caso de violação das presentes Regras, suspender por tempo determinado, indeterminado ou mesmo proibir permanentemente a possibilidade de comentar, independentemente de ser assinante do Correio da Manhã Premium ou da sua classificação.
O Correio da Manhã reserva-se ao direito de apagar de imediato e sem qualquer aviso ou notificação prévia os comentários dos Leitores que não cumpram estas regras.
O Correio da Manhã ocultará de forma automática todos os comentários uma semana após a publicação dos mesmos.
Newsletter - Boa Tarde
As suas notícias acompanhadas ao detalhe.
Para usar esta funcionalidade deverá efetuar login.
Caso não esteja registado no site do Correio da Manhã, efetue o seu registo gratuito.
Escrever um comentário no CM é um convite ao respeito mútuo e à civilidade. Nunca censuramos posições políticas, mas somos inflexiveis com quaisquer agressões. Conheça as
Inicie sessão ou registe-se para comentar.