Inteligência artificial tem menos normas de segurança que o leite, alerta presidente da Microsoft

Continua depois da publicidade

Enquanto cada caixa de leite que chega aos supermercados passa por inspeções minuciosas e regras sanitárias para garantir a saúde do consumidor, a IA ainda opera sem salvaguardas equivalentes. Para ilustrar o nível de rigor com que a cadeia produtiva do leite trabalha, basta observar o cenário nos Estados Unidos, onde a segurança do leite Grau "A" e dos laticínios é orientada pelo "Pasteurized Milk Ordinance" (PMO), cujos padrões mínimos são estabelecidos pela Food and Drug Administration (FDA). Esse regulamento atua como o padrão da indústria americana para as especificações de fazendas leiteiras e fábricas de processamento de alimentos. 

Em contraste com a segurança e transparência da cadeia leiteira, Smith ressaltou que a inteligência artificial precisa estabelecer seu próprio conjunto global de regras. O executivo defende a criação de mecanismos como um "freio de emergência" e notificações obrigatórias caso o sistema de um usuário seja violado por um agente autônomo corrompido. Além disso, ele argumentou que as empresas de tecnologia deveriam ter a obrigatoriedade jurídica de elaborar relatórios de incidentes, aproveitando o conhecimento de segurança já aplicado a outros produtos cotidianos e altamente regulados, como o leite e até mesmo os eletrodomésticos. Essa urgência por controle já tem motivado companhias como Anthropic e OpenAI a divulgarem publicamente os comportamentos indesejados de seus agentes de IA, em meio a um forte debate global e alertas de pesquisadores sobre potenciais ameaças existenciais à humanidade.

Continua depois da publicidade

Na busca por um modelo ideal, o presidente da Microsoft destacou que o Reino Unido se encontra em uma posição privilegiada para liderar a regulação da tecnologia através de seu AI Security Institute, diferenciando-se da União Europeia, que regula a inteligência artificial com base em níveis de risco por meio de seu AI Act. Por meio de acordos voluntários, o instituto britânico já consegue avaliar previamente as capacidades e riscos dos modelos antes de sua comercialização, embora autoridades locais não descartem a imposição de regras obrigatórias no futuro, provando que o setor tecnológico pode ter muito a aprender com a regulamentação do nosso setor leiteiro.

As informações são do Valor Econômico, adaptadas pela equipe MilkPoint.

Vale a pena ler também:

EUA pressionam por vistos agrícolas permanentes para enfrentar falta de mão de obra no leite

Geração Z e café gelado: Nestlé lança desafio a universitários