A Meta reconheceu que usou postagens públicas em suas plataformas Facebook e Instagram para treinar seu novo assistente virtual de inteligência artificial.
O presidente de assuntos globais da Meta, Nick Clegg, disse que a empresa usou apenas postagens públicas e evitou postagens privadas que foram compartilhadas com amigos e familiares, bem como mensagens privadas para treinar o bot de IA da empresa, de acordo com um relatório da Reuters.
“Tentamos excluir conjuntos de dados que têm uma grande preponderância de informações pessoais”, disse Clegg durante a conferência anual Connect da empresa, acrescentando que a “grande maioria” dos dados utilizados já estava disponível publicamente.
NSA ANUNCIA NOVO CENTRO DE SEGURANÇA DE INTELIGÊNCIA ARTIFICIAL: ‘DESPERADAMENTE NECESSÁRIO’
Mark Zuckerberg, CEO e fundador do Facebook Inc., fala durante o Silicon Slopes Tech Summit em Salt Lake City em 31 de janeiro de 2020. (George Frey/Bloomberg via Getty Images)
As empresas de tecnologia têm sido criticadas nos últimos meses por relatos de que têm usado informações da Internet com permissão para treinar modelos de IA, que são capazes de classificar uma enorme quantidade de dados. Em alguns casos, as varreduras de dados resultaram em ações judiciais, segundo a Reuters, especialmente quando a IA é acusada de reproduzir materiais protegidos por direitos autorais.
“A IA precisa de quantidades impressionantes de dados de treinamento, então as postagens dos usuários são uma maneira ideal de ‘alimentar a fera’”, disse Christopher Alexander, diretor de análise do Pioneer Development Group, à Fox News Digital. “A preocupação é como essas personas de IA mais bem treinadas são colocadas em uso. Você tem potencial para algumas IAs incrivelmente persuasivas que falam exatamente como uma pessoa com quem estão se comunicando se identifica melhor. Existem algumas preocupações reais sobre como a IA de aparência humana pode se tornar, e isso deve ser considerado.”
O QUE É INTELIGÊNCIA ARTIFICIAL (IA)?
Jon Schweppe, diretor de políticas do American Principles Project, questionou quantas “salvaguardas” foram implementadas para proteger informações pessoais.
“A Meta parece estar construindo sua IA com base nas postagens, fotos e dados pessoais de seus usuários. Foi realmente nisso que os consumidores se inscreveram?” Schweppe disse à Fox News Digital. “A América está num ponto crítico, semelhante a onde estávamos quando as redes sociais entraram em cena há quase 20 anos e lançaram a maior experiência social da história da humanidade. Ou o Congresso age agora e dá ao povo americano supervisão sobre a IA, ou nós será mais uma vez deixado à mercê dos nossos senhores tecnológicos.”
O logotipo do Instagram exibido em um smartphone. (Rafael Henrique/SOPA Images/LightRocket via Getty Images)
WARREN EXPLODE REUNIÃO DE AI DO SENADO COM PORTAS FECHADAS, PEDE REGULAÇÃO RÁPIDA
O CEO da Meta, Mark Zuckerburg, revelou publicamente a nova ferramenta de IA da empresa durante a conferência de produtos na semana passada, que foi feita usando um modelo personalizado semelhante ao modelo de linguagem grande Llama 2, de acordo com a Reuters. O produto será capaz de gerar texto, áudio e imagens, além de ter acesso a informações em tempo real por meio de parceria com o Bing Search, observou o relatório.
As postagens públicas no Facebook e no Instagram foram usadas para treinar a ferramenta de IA da Meta para geração de imagens e respostas de chat, enquanto as interações dos usuários com o bot ajudarão a melhorar seus recursos no futuro, disse Meta à Reuters.
Ziven Havens, diretor de políticas do Bull Moose Project, disse à Fox News Digital que “não deveria ser surpresa para os usuários” que suas postagens fossem usadas para treinar as ferramentas de IA do Meta, mas argumenta que os usuários deveriam se preocupar “se seus os dados estão sendo usados de maneira responsável e segura.”
CLIQUE AQUI PARA MAIS NOTÍCIAS DOS EUA
“Sem uma acção real do Congresso, os americanos têm de assumir que estas empresas de IA estão a ser responsáveis pelos seus dados, o que muitos americanos achariam difícil de acreditar dada a última década”, disse Havens. “Se o Congresso não agir, as preocupações com a privacidade dos dados continuarão a aumentar.”
Logotipo do Facebook em um smartphone. (Thiago Prudêncio/SOPA Images/LightRocket via Getty Images)
Phil Siegel, fundador do Centro de Preparação Avançada e Simulação de Resposta a Ameaças, disse à Fox News Digital que “não é surpreendente” que Meta esteja usando postagens para treinar sua IA, observando que isso dá ao bot acesso a “dados exclusivos e permitirá que ele treinar um LLM (modelo de linguagem grande) para agir como se fossem usuários de mídia social, e isso será diferente dos LLMs que apenas extraem informações factuais do mundo da Internet.”
Mas Siegel observou que pode haver preocupações sobre a propagação de personalidades artificiais, especialmente tendo em conta o impacto na saúde mental que as redes sociais já tiveram sobre os utilizadores.
CLIQUE AQUI PARA OBTER O APLICATIVO FOX NEWS
“Eu me preocupo que os modelos espalhem informações ruins ou ofensivas, hiperalucinem (pense em combinar respostas humanas emocionais com LLMs já alucinantes), criem personalidades distorcidas para interagir com adolescentes e muito mais. disse. “Sejamos honestos, as empresas de redes sociais prejudicaram a saúde mental de muitas pessoas, velhas e jovens, sem IA no meio… elas precisam ter certeza de que esta IA não amplifica ainda mais o problema.”
Meta não respondeu imediatamente a um pedido de comentário da Fox News Digital.