Preocupações de ética Montar o papel de Grok AI no governo dos EUA

O Departamento de Eficiência do Governo (DOGE) de Elon Musk lançou silenciosamente uma versão adaptada de seu Grok AI Chatbot entre agências federais, levantando alarmes sobre possíveis violações de privacidade e conflitos de interesse.

A Reuters citou três fontes dentro de Doge dizendo que a equipe está usando Grok para analisar e analisar dados sensíveis ao governo, gerando relatórios e insights a velocidades além dos métodos tradicionais.

Doge viola a ética com o movimento Grok ai

De acordo com os três insiders, os engenheiros da DOGE instalaram parâmetros personalizados no topo de Grok, um chatbot que o Musk's Xai lançou no final de 2023, para acelerar a revisão de dados e automatizar a redação de relatórios.

"Eles alimentam conjuntos de dados do governo, fazem perguntas complexas e obtêm resumos instantâneos".

Um insider.

Outra fonte acrescentou que a equipe do DOGE incentivou os funcionários do Departamento de Segurança Interna a usar a GROK para análises internas, apesar da ferramenta sem a aprovação formal da agência.

O que não está claro é exatamente o que classificou ou pessoalmente, eudentas informações da iFiable foram enviadas em Grok ou com que fortemente elas foram treinadas em registros federais. Se o material sensível fosse incluído, a prática poderá entrar em conflito com os estatutos federais de privacidade e regras de conflito de interesses.

Cinco especialistas em ética e tecnologia alertam que esse acesso pode dar às empresas de Musk insights desproporcionais sobre os dados nãotrace até ajudam a refinar a própria Grok para obter ganhos privados.

Em teoria, qualquer modelo de IA treinado em conjuntos de dados do governodentdeve navegar por salvaguardas legais estritas. Os protocolos de compartilhamento de dados normalmente envolvem várias assinaturas e supervisão para impedir a divulgação não autorizada.

Ao desviar-se desses cheques, o Doge corre o risco de expor milhões de detalhes pessoais dos americanos e entregando a Xai um tesouro de informações do mundo real indisponível para os concorrentes.

Doge insiste que sua missão é erradicar resíduos, fraudes e abusos. Um porta -voz do DHS disse à Reuters que Doge nunca pressionou a equipe a adotar uma ferramenta específica.

"Estamos focados na eficiência", disse o porta -voz. Mas duas fontes contrariam que, nas últimas semanas, os representantes da DOGE pressionaram as divisões do DHS para pilotar a GROK para tarefas que vão desde a análise de casos de imigração até a previsão do orçamento, mesmo depois que o DHS bloqueou abruptamente todas as plataformas comerciais de IA sobre os medos de vazamento de dados.

De acordo com a política atual do DHS, os funcionários podem usar chatbots comerciais apenas para trabalho não classificado e nãodent, enquanto uma DHS AI sob medida lida com registros sensíveis. Mas quando o ChatGPT e outros foram desativados em maio, os avanços de Doge ocorreram em uma zona cinzenta legal: o bot interno do DHS permaneceu ao vivo, mas Grok nunca foi formalmente a bordo.

Musk está usando o DOGE para centralizar o controle?

Além do DHS, o alcance de Doge se estende às redes do Departamento de Defesa, onde cerca de uma dúzia de analistas foram informados de que uma ferramenta de IA de terceiros estava monitorando sua atividade. Embora os porta-vozes do Departamento de Defesa tenham negado o DOGE guiar as implantações de IA, e-mails departamentais e trocas de mensagens de texto obtidas pela Reuters sugerem o contrário.

Os críticos veem esses movimentos como ilustrativos da estratégia mais ampla de Musk para alavancar a IA para centralizar o controle sobre a burocracia e depois monetizar o fluxo de dados resultante.

"Há uma aparência clara de tráfego."

Richard Painter, professor de ética do governo.

Se Musk ordenasse diretamente a implantação de Grok, ele poderia estar violando os estatutos criminais que os funcionários da Ordem dos Advogados de influenciar as decisões que beneficiam seus interesses privados.

No coração do debate está o duplo papel de Grok como um chatbot voltado para o público no X e um mecanismo de análise experimental dentro dos firewalls do governo. O site da Xai sugere que as interações do usuário podem ser monitoradas "para fins comerciais específicos", sugerindo que todas as consultas federais poderiam voltar ao loop de aprendizado de Grok.

Dois funcionários da Doge , Kyle Schutt e Edward Coristine, os últimos conhecidos on -line como "Big Balls", lideraram grande parte da iniciativa da IA. Enquanto eles se recusaram a comentar, seus esforços se encaixam em um padrão; No ano passado, Doge descartou milhares de funcionários de carreira, assumiu o controle de bancos de dados seguros e defendeu a IA como a ferramenta final para uma revisão burocrática.

Os defensores da privacidade alertam que a integração da IA não vetida em ambientes de segurança nacional de alto risco é uma receita para vazamentos de dados, roubo dedente exploração de adversário estrangeiro.

"Isso é uma ameaça de privacidade tão séria quanto você obtém", diz Albert Fox Cahn, do Projeto de Supervisão da Tecnologia de Vigilância.

Também há temores de que, com pouca transparência e poucos corrimãos, o experimento de IA de Doge possa remodelar a governança federal de dados, independentemente de o público perceber ou não.

Suas notícias criptográficas merecem atenção - o fio de diferença -chave coloca você em mais de 250 sites superiores