"Incremento en actividades ilegales": advierten por estafas con inteligencia artificial

La Sociedad de Internet de China (ISC, siglas en inglés) emitió una advertencia sobre el creciente uso de tecnologías como el cambio de rostro y voz con inteligencia artificial (IA), que está dando lugar a “un incremento en actividades ilegales como el fraude y la difamación”.

El comunicado de la ISC destaca un caso de fraude en la red de telecomunicaciones destapado por las autoridades de Baotou, ciudad de Mongolia Interior (norte), donde los perpetradores utilizaron tecnología de IA para sintetizar voces y cambiar rostros con el fin de cometer estafas.

(Vea también: ChatGPT hizo una lista de las peores contraseñas en Internet; ¿las usa? Tenga cuidado).

Los delincuentes usaron esta tecnología para falsificar la voz de una persona en concreto a través de la síntesis de sonido, cambiar rostros utilizando IA, pretender ser una persona específica y hacer videollamadas con otras personas en tiempo real, con el objetivo de ganarse la confianza de la víctima y cometer fraude.

Ante este escenario, la ISC enfatiza la importancia de adoptar medidas de seguridad personal frente a las nuevas formas de estafa que utilizan tecnología de IA, como proteger la información personal, evitar la descarga de software desconocido y gestionar cuidadosamente el círculo social en línea.

Asimismo, se recomienda a las personas realizar múltiples verificaciones al realizar transferencias de dinero y no confiar únicamente en la comunicación por mensajes o llamadas telefónicas.

En respuesta a esta problemática, la ISC, una organización no gubernamental china compuesta por 140 miembros de la industria china de Internet, incluidas empresas privadas, escuelas e institutos de investigación, pide “autodisciplina” en la industria y “trabajar en la prevención y gobernanza de las telecomunicaciones”.

El pasado 17 de mayo, el Ministerio de Industria y Tecnología de la Información de China (MIIT, siglas en inglés) anunció la creación de un comité y un grupo de expertos en ética de ciencia y tecnología, con el objetivo de establecer un sistema de administración único para abordar cuestiones éticas en el campo de la IA. Además del MIIT, otras autoridades chinas también han tomado medidas para regular el uso ético de este campo.

La autoridad de ciberespacio de China emitió recientemente un borrador de regulación de contenido para la IA, expresando su respaldo a la innovación y aplicación de algoritmos y marcos del sector, así como a la garantía de una competencia justa.

Asimismo, las plataformas de redes sociales chinas están marcando el contenido generado por IA para prevenir disputas y ayudar a los usuarios a distinguir entre elementos virtuales y reales, en una muestra más del férreo control ejercido por el gigante asiático en la red.