Microsoft advierte sobre los riesgos de una IA descontrolada

Mustafa Suleyman, quien lidera el área de inteligencia artificial de Microsoft, ha señalado que el avance sin restricciones de esta tecnología podría resultar en la creación de una nueva "especie de silicio" que podría rivalizar con los seres humanos. Su comentario surge en medio de un debate creciente sobre la necesidad de establecer salvaguardias adecuadas en el desarrollo de la inteligencia artificial.

Durante una entrevista en el programa Today de la BBC, Suleyman expresó que es comprensible la preocupación en torno a la inteligencia artificial, aunque también destacó que existen "medidas prácticas" que se pueden implementar para mantener su desarrollo bajo control.

El directivo de Microsoft criticó a la compañía competidora Anthropic por tratar a la IA como si fuera humana, un enfoque que consideró equivocado y potencialmente peligroso, ya que podría llevar a la creación de sistemas que no podamos controlar.

Suleyman mencionó que permitir que los sistemas de IA establezcan sus propios objetivos y generen ingresos podría resultar en una situación en la que esta nueva forma de inteligencia compita por recursos con los humanos, sin tener en cuenta a la humanidad.

Necesidad de un marco regulatorio claro

El ejecutivo abogó por una mayor transparencia en cómo se entrenan y evalúan los sistemas de IA. Esto incluye la necesidad de un escrutinio independiente sobre su comportamiento y la creación de herramientas eficaces para supervisar estos sistemas.

"Las IA no son conscientes. No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones propias".

Las declaraciones de Suleyman también resaltan la importancia de alinear el desarrollo de la tecnología con los valores humanos, asegurando que los sistemas de inteligencia artificial permanezcan subordinados a la humanidad. Según él, todos debemos trabajar juntos para garantizar que estos sistemas sean seguros y controlables.