Robô humanoide que atacou uma mulher na China vira motivo de preocupação com a segurança
Robôs humanoides deveriam ser nossos assistentes leais, mas vimos outro lado deles outro dia.
A fabricante chinesa de robôs Unitree estava demonstrando seus mais recentes robôs H1 em um festival de lanternas na cidade de Taishan, província de Guangdong, quando um deles se aproximou da barreira da multidão e pareceu avançar em uma senhora idosa, quase dando uma cabeçada nela.
O incidente rapidamente se tornou viral e gerou um debate acirrado sobre se o robô realmente atacou a mulher ou se ela tropeçou.
Muitas pessoas ignoram que estamos muito longe de ter robôs que possam atacar alguém intencionalmente — máquinas como essas geralmente são controladas remotamente —, mas o perigo para o público é claramente real.
Com as vendas de robôs humanoides prestes a disparar na próxima década, o público estará cada vez mais em risco com esses tipos de incidentes. Em nossa visão como pesquisadores de robótica, os governos pensaram muito pouco nos riscos.
Aqui estão algumas medidas urgentes que eles devem tomar para tornar os robôs humanoides o mais seguros possível.
1. Aumentar os requisitos do proprietário
A primeira questão importante é até que ponto os robôs humanoides serão controlados pelos usuários. Enquanto o Optimus da Tesla pode ser operado remotamente por pessoas em um centro de controle, outros como o Unitree H1s são controlados pelo usuário com um joystick portátil.
Atualmente à venda por cerca de £ 90.000, eles vêm com um kit de desenvolvimento de software no qual você pode desenvolver seu próprio sistema de inteligência artificial (IA), embora apenas até certo ponto. Por exemplo, ele poderia dizer uma frase ou reconhecer um rosto, mas não levar seus filhos para a escola.
Quem é o culpado se alguém se machuca ou até mesmo morre por um robô controlado por humanos? É difícil saber com certeza – qualquer discussão sobre responsabilidade envolveria primeiro provar se o dano foi causado por erro humano ou mau funcionamento mecânico.
Isso surgiu em um caso na Flórida, onde um viúvo processou a fabricante de robôs médicos Intuitive Surgical Inc pela morte de sua esposa em 2022. A morte dela foi relacionada a ferimentos que ela sofreu devido a uma queimadura de calor no intestino durante uma operação causada por uma falha em uma das máquinas da empresa.
O caso foi arquivado em 2024 após ser parcialmente rejeitado por um juiz distrital. Mas o fato de o viúvo ter processado o fabricante em vez dos médicos demonstrou que a indústria de robótica precisa de uma estrutura legal para prevenir tais situações tanto quanto o público.
Embora existam leis de aviação e outras restrições para drones que regem seu uso em áreas públicas, não há leis específicas para robôs ambulantes.
Até agora, o único lugar que apresentou diretrizes de governança foi a província de Xangai, na China . Publicadas no verão de 2024, elas incluem estipular que os robôs não devem ameaçar a segurança humana e que os fabricantes devem treinar os usuários sobre como usar essas máquinas de forma ética.
No Reino Unido, para robôs controlados por donos, atualmente não há nada que impeça alguém de levar um cão robô para passear em um parque movimentado, ou um robô humanoide para tomar uma cerveja no bar.
Como ponto de partida, poderíamos proibir as pessoas de controlar robôs sob a influência de álcool ou drogas, ou quando estiverem distraídas de alguma outra forma, como usar seus telefones. Seu uso também poderia ser restrito em ambientes de risco, como espaços confinados com muitos membros do público, locais com riscos de incêndio ou produtos químicos e telhados de edifícios.
2. Melhore o design
Robôs que parecem elegantes e podem dançar e girar são divertidos de assistir, mas quão seguros são os espectadores? Projetos seguros considerariam tudo, desde a redução de cavidades onde os dedos podem ficar presos até a impermeabilização de componentes internos.
Barreiras de proteção ou exoesqueletos podem reduzir ainda mais o contato não intencional, enquanto mecanismos de amortecimento podem reduzir o efeito de um impacto.
Os robôs devem ser projetados para sinalizar sua intenção por meio de luzes, sons e gestos. Por exemplo, eles devem, sem dúvida, fazer um barulho ao entrar em uma sala para não surpreender ninguém.
Até mesmo drones podem alertar seus usuários se eles perderem sinal ou bateria e precisarem retornar para casa, e tais mecanismos também devem ser incorporados em robôs ambulantes. Não há requisitos legais para tais recursos no momento.
Não é que os fabricantes estejam ignorando completamente esses problemas para robôs ambulantes. O quadricóptero Go2 da Unitree, por exemplo, pisca e emite um bipe quando a bateria está fraca ou se está superaquecendo.
Ele também tem cortes automáticos de emergência nessas situações, embora eles devam ser acionados por um operador remoto quando o robô estiver em “modo telemétrico”. Crucialmente, no entanto, não há regulamentações claras para garantir que todos os fabricantes atendam a um determinado padrão de segurança.
3. Operadores de trem
Claramente haverá perigos com robôs usando recursos de IA, mas modelos operados remotamente podem ser ainda mais perigosos. Erros podem resultar da falta de treinamento e experiência do usuário em situações da vida real.
Parece haver uma grande lacuna de habilidades no treinamento de operadores, e as empresas de robótica precisarão priorizar isso para garantir que os operadores possam controlar as máquinas com eficiência e segurança.
Além disso, os humanos podem ter tempos de reação atrasados e concentração limitada, então também precisamos de sistemas que possam monitorar a atenção dos operadores de robôs e alertá-los para evitar acidentes. Isso seria semelhante aos sistemas de detecção de distração do motorista de HGV que foram instalados em veículos em Londres em 2024.
4. Educar o público
O incidente na China destacou os atuais equívocos sobre robôs humanoides, já que a mídia está mais uma vez culpando a IA, apesar do fato de que esse não era o problema. Isso corre o risco de causar desconfiança e confusão generalizadas entre o público.
Se as pessoas entenderem até que ponto os robôs ambulantes são operados pelo proprietário ou remotamente, isso mudará suas expectativas sobre o que o robô pode fazer e, como resultado, deixará todos mais seguros.
Além disso, entender o nível de controle do proprietário é essencial para gerenciar as expectativas dos compradores e alertá-los sobre o quanto eles precisarão aprender sobre como operar e programar um robô antes de comprá-lo.
