Aunque OpenAI asegura que se tecnología es segura, existe la posibilidad de que cause consecuencias graves a nivel mundial. Como toda herramienta revolucionaria, su uso para el bien podría denotar en algo muy bueno a gran escala pero en malas manos podría ser la causante de consecuencias considerables.
Por su parte, el CEO de la empresa, Sam Altman, mostró su preocupación porque el sistema ChatGPT pueda causar un daño significativo al mundo y considera que un mal uso de esta tecnología, a falta de una normativa sólida que lo regule, podría tener consecuencias catastróficas.
ChatGPT aún no tiene derechos que lo regulen
El director ejecutivo de la compañía declaró ante el Subcomité de Privacidad, Tecnología y Ley del Comité del Poder Judicial del Senado de Estados Unidos para solicitar una regulación en el uso del chatbot.
Los sistemas de Inteligencia Artificial (IA) generativa son objetivo de críticas por autoridades y usuarios porque actores maliciosos hacen uso de ellos para llevar a cabo campañas de phishing o difundir mensajes de odio, entre otras actividades dañinas y delictivas.
¿Cuál podría ser el daño que causaría el chat en el mundo?
Debido a la preocupación que generó el mal uso de esta tecnología, Sam Altman fue ante la cámara alta del Congreso estadounidense para expresar su voluntad de trabajar con legisladores e instituciones a fin a abordar los riesgos que presenta esta IA.
Algunos de los filtros que OpenAI propone, tienen que ver con reducir la información inexacta, conocida como alucinaciones, contenido de odio, desinformación e información relacionada con la proliferación de armas y texto de carácter sexual.
¿Cómo propone el CEO de OpenAI evitar los problemas que podría causar ChatGPT?
A pesar de tener el objetivo de seguir mejorando su servicio, Altman insistió en que las mejoras que esta organización lleve a cabo internamente con su tecnología deben estar respaldadas por una normativa que regule su uso debido a que la IA generativa «podría causar un daño significativo al mundo».
«Si esta situación empeora, todo podría salir bastante mal y queremos hablar al respecto, trabajar con el Gobierno para que esto no suceda», explicó el CEO en una audiencia.
ChatGPT
El Gobierno nacional relanza la Cumbre Social del Mercosurhttps://t.co/53tvucAmaY
— misionesonline.net (@misionesonline) May 27, 2023