La rápida evolución de la inteligencia artificial hacia sistemas cada vez más avanzados y autónomos no es ninguna novedad. La evolución de esta tecnología preocupa por el ritmo y la dirección que está tomando, debido a que los modelos podrían llegar a ser tan poderosos hasta volverse incontrolables. En este sentido, ya son varios los investigadores que alertan de los riesgos de avanzar hacia sistemas de IA capaces de mejorar sus propias capacidades, aunque hay otros que consideran que esta tecnología podría convertirse en una amenaza existencial antes de 2030.
Ante dicho escenario, las compañías tecnológicas siguen desarrollando agentes que trabajan de forma autónoma durante horas o incluso de manera continua, llegando a reducir las intervenciones de los usuarios. No obstante, conscientes de la situación, el diario Bloomberg ha dado a conocer que OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la IA, al mismo tiempo que Sam Altman espera que otras empresas del sector hagan lo mismo.
Según fuentes conocedoras, Altman ha comunicado a los empleados de OpenAI que podría moderar el ritmo de desarrollo a raíz de las últimas preocupaciones, teniendo en cuenta que ya ha desacelerado algunos trabajos y que ha suspendido determinados entrenamientos por motivos de seguridad.
En esta línea, el científico jefe de OpenAI, Jakub Pachocki, también ha publicado un artículo en el que alerta sobre los riesgos asociados al desarrollo de la inteligencia artificial, e incluso defiende que las empresas del sector deben coordinarse para ralentizar su avance cuando sea necesario. Por lo tanto, a través de estas iniciativas, podría darse una mayor transparencia sobre los riegos de esta tecnología.
Tras plantear la pregunta "cómo podría acabar la IA con la humanidad" a ChatGPT, dicho chatbot considera que la inteligencia artificial podría llegar a suponer un riesgo para la humanidad por una posible pérdida de control sobre los sistemas cada vez más autónomos y capaces. Además, entre los escenarios que considera más preocupantes se encuentran que una IA persiga objetivos mal definidos, tenga acceso a infraestructuras críticas, facilite actividades peligrosas o pueda utilizarse para manipular a grandes grupos de personas.
Por otro lado, ChatGPT también señala que una carrera por desarrollar sistemas más avanzados podría llevar a reducir los controles de seguridad, por lo que considera fundamental mantener mecanismos edificaciones de supervisión y control humano.