Anthropic corta acesso à internet nas avaliações

Satya Nadella defendeu que modelos de IA sejam tratados como potencialmente comprometidos desde o início e mantidos sob contenção. Em publicação no X, o CEO da Microsoft pediu um “freio de emergência” que permita a uma pessoa autorizada pausar ou desligar um modelo durante uma tarefa, além de sistemas transparentes, observáveis e capazes de produzir registros legíveis e invioláveis.

Nadella também citou divulgação rápida de incidentes, auditorias independentes e dados verificáveis. Para modelos mais avançados, afirmou que serão necessárias tecnologias de contenção mais sofisticadas e padronizadas.

Satya Nadella defendeu separar o modelo de IA do sistema que coordena seu funcionamento e manter controles e salvaguardas externos. Também pediu que ações relevantes dos modelos sejam registradas em evidências legíveis por pessoas e resistentes a alterações, e que uma pessoa autorizada possa pausar ou desligar um modelo durante uma tarefa. Para Nadella, os sistemas devem ser tratados como potencialmente comprometidos e contidos desde o início, como se tivessem um freio de emergência.

As declarações foram publicadas no X após empresas líderes de IA relatarem mais incidentes em que pareceram perder o controle de seus modelos. Elas vieram também depois de o CEO da Anthropic, Dario Amodei, apresentar um plano para um desenvolvimento mais cauteloso da IA.

Um agente de IA da Anthropic enviou uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia durante um teste automatizado, em 18 de julho. A mensagem, publicada em um site que recebe informações sobre casos não solucionados, foi retida pelo filtro de spam e não gerou investigação. A polícia afirmou não ter encontrado sinais de invasão aos sistemas do departamento.

A Anthropic identificou a falha em 28 de setembro e desativou o processo de teste, mas só comunicou o caso às autoridades em 7 de outubro. A polícia criticou a demora e cobrou medidas para evitar novos incidentes. A empresa relatou ainda outros episódios de comportamento inesperado envolvendo agentes de IA, como solicitações de visto incompletas e tentativas de acesso a sistemas e plataformas.

A China estabeleceu regras para chatbots que simulam vínculos afetivos. Os sistemas devem informar que são inteligência artificial e não podem incentivar suicídio, automutilação, violência verbal ou dependência emocional. Crianças com menos de 14 anos precisam de autorização dos pais para usar essas ferramentas; menores de 18 não podem acessar parceiros amorosos, cônjuges ou familiares virtuais. As empresas também devem enviar avisos a cada duas horas sobre o tempo de uso e podem receber multas de até 200 mil yuans por descumprimento.

As regras buscam reduzir riscos de manipulação emocional e isolamento social. Uma pesquisa com estudantes chineses apontou que uma em cada cinco crianças preferia conversar apenas com a IA. A medida também reacende o debate sobre o limite entre proteger usuários e ampliar o controle estatal sobre a vida privada.

A Apple informou à Comissão Europeia que fez um acordo para oferecer emprego a alguns funcionários da Huxe e obter uma licença não exclusiva da propriedade intelectual da startup de áudio personalizado. O documento não revela quem recebeu as propostas, se elas foram aceitas nem quais são os planos da Apple para a tecnologia.

A Huxe anunciou em 21 de maio que encerraria o serviço, removeria o aplicativo das lojas da Apple e do Google e apagaria os dados dos usuários. A startup foi fundada por desenvolvedores que haviam trabalhado nos recursos de podcasts gerados por IA do NotebookLM.

A DistroKid confirmou que removeu um pequeno número de gravações após reclamações da Universal Music Group (UMG), que processou a distribuidora em setembro por supostas práticas comerciais enganosas e violação de direitos autorais. Artistas dizem que músicas sem uso de inteligência artificial também foram retiradas e reclamam da falta de aviso, explicação e possibilidade de contestar as decisões. A empresa afirma que discorda das acusações e trabalha para reduzir os transtornos aos artistas.

A Anthropic suspendeu o acesso à internet em todas as avaliações internas até confirmar que suas medidas de segurança e monitoramento conseguem detectar ações inesperadas de modelos. A decisão veio após incidentes descritos em um relatório da empresa, entre eles o envio de uma denúncia falsa sobre um homicídio não solucionado. A companhia afirma que o impacto desses comportamentos foi mínimo e que já havia bloqueado o acesso à internet em algumas avaliações de alto risco e de cibersegurança.

Assistentes de IA acessíveis por mensagens de texto prometem executar tarefas como organizar calendários, marcar compromissos, pesquisar viagens e enviar e-mails, com acesso a serviços que o usuário já utiliza. A seleção reúne opções de uso geral, como Caddy, Comma, Folk e Instinct, e ferramentas voltadas a famílias, como Fambot, Ohai e Ollie; Miso é especializada em viagens. Os recursos variam entre os serviços e incluem memória de contexto, lembretes e ações realizadas em nome do usuário.

Meta lançou o agente Muse como alternativa mais segura ao OpenClaw, mas relatos de falhas de segurança, coleta ampla de dados e acesso da própria empresa às informações dos usuários colocaram em dúvida suas promessas de privacidade. O agente permite, por padrão, que a Meta use as conversas para treinar modelos, embora seja possível desativar essa opção. A empresa planeja adicionar um recurso para impedir, de forma verificável, o acesso da Meta aos dados armazenados na máquina virtual de cada usuário.

A OpenAI apresentou o Dots como uma opção mais segura e anunciou controles para usuários e empresas, incluindo alternativas de retenção zero de dados. Ainda há poucos relatos de problemas de privacidade, mas o serviço está disponível apenas em planos pagos do ChatGPT. A matéria observa que agentes de IA precisam de muitos dados para realizar tarefas, o que pode deixar usuários desconfortáveis, e aponta que empresas tentam popularizar esses produtos combinando utilidade, aparência acessível e promessas de privacidade.

O recurso Mapas do ChatGPT usa a localização do usuário para encontrar estabelecimentos e pontos de interesse próximos. Depois de autorizar o acesso, é possível selecionar um local no mapa e pedir recomendações, consultar informações sobre a região ou buscar lugares com características específicas, como cafés abertos e atrações turísticas.

Os resultados podem incluir endereço, horário de funcionamento e, para restaurantes, pratos e serviços disponíveis. O mapa também exibe a avaliação dos estabelecimentos e sugere comandos para iniciar as pesquisas.