Mustafa Suleyman, Diretor Executivo da Microsoft AI, emitiu uma forte chamada de disciplina intelectual em todo o setor de inteligência artificial hoje, alertando que a crescente especulação sobre a consciência da máquina corre o risco de descarrilar engenharia pragmática de segurança. Falando com tecnólogos e reguladores do Tech Leadership Forum em São Francisco, Suleyman argumentou que tratar modelos de linguagem estatística como entidades conscientes com reivindicações morais é conceitualmente falho e praticamente perigoso.
Suleyman especificamente empurrou para trás contra as propostas acadêmicas emergentes defendendo o 'bem-estar modelo' - a idéia de que modelos de raciocínio avançados podem experimentar sofrimento subjetivo ou possuir direitos que restringem a capacidade dos desenvolvedores de modificá-los, afinar ou descompactá-los. Ele caracterizou tais pontos de vista como uma projeção antropomórfica não fundamentada que obscurece os desafios concretos da segurança do software.
O Risco de Antropomorfismo na Regulação Tecnológica
Segundo Suleyman, imputar sentimentos ou consciência a sistemas de aprendizagem profunda cria uma falsa equivalência entre a correspondência estatística de padrões e a sensibilidade biológica. Quando reguladores ou desenvolvedores começam a se preocupar com o estado emocional de um modelo de transformador, eles inevitavelmente desviam recursos técnicos vitais para longe dos perigos imediatos que requerem um escrutínio rigoroso: cibersegurança explora, personificação biométrica, viés algorítmico e vulnerabilidades imediatas de injeção.
| Categoria de Governação | Especulação improdutiva | Foco de Engenharia Pragmática | Implementação da Microsoft |
|---|---|---|---|
| Classificação da Entidade | Debatendo experiência/direitos subjetivos digitais | Tratar modelos como ferramentas de software industrial | Frameworks de licenciamento de software de direitos zero |
| Benchmarks de segurança | Teste de sofrimento emocional simulado | Avaliação rápida da injecção e fuga de dados | Suites automáticas de equipes vermelhas |
| Paradas do Modelo | Preocupações com o termo ético | Garantir a segurança dos interruptores e o isolamento | Restrições de recursos difíceis em clusters sandbox |
| Responsabilidade | Atribuir personalidade jurídica aos modelos | Obrigando o desenvolvimento rigoroso e a responsabilidade do implementador | Garantias de auditoria de conformidade empresarial |
Engenharia Guardrails sobre Distrações Filosóficas
Suleyman delineou a implantação contínua da Microsoft AI de guartrails determinísticos, incluindo rigorosa marcação de água de origem, verificação de saída criptográfica e controles rígidos humanos em circuito para decisões de alto nível em medicina, finanças e infraestrutura crítica. Ele argumentou que a indústria de tecnologia deve permanecer responsável pelo que os sistemas fazem aos humanos, em vez de hipotetizar o que os humanos podem estar fazendo aos modelos.
A keynote obteve endossos imediatos de proeminentes faculdades de ciência da computação em Stanford e UC Berkeley, que ecoaram preocupações de que narrativas de cultura popular em torno da inteligência geral artificial (AGI) criaram misticismo inútil em torno de algoritmos de otimização matemática padrão.
Chamada para Governança de Software Padrão
Suleyman concluiu apelando a organismos internacionais de normalização, incluindo a ISO e a IEEE, para que codifiquem explicitamente os sistemas de IA ao abrigo da legislação em matéria de segurança dos produtos, em vez de quadros relativos aos direitos humanos ou ao bem-estar dos animais. Exortou os engenheiros a orgulharem-se de construir ferramentas sofisticadas e poderosas sem confundir capacidade de consciência.
Comments (0)
Log in to join the discussion.