0
0
La posibilidad de que una inteligencia artificial llegue a provocar la extinción humana dejó de ser únicamente un argumento de ciencia ficción. Un análisis realizado por expertos vinculados con Anthropic advierte que el riesgo, aunque incierto, es real.
Jacob Coxon, exintegrante de Anthropic y OpenAI, cuestionó el ritmo de desarrollo de la tecnología y afirmó: “Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década”. También advirtió sobre sistemas capaces de adquirir recursos, vulnerar sistemas informáticos y mejorar sus propias capacidades.
Evan Hubinger, otro investigador relacionado con Anthropic, señaló que la probabilidad de una extinción humana antes de 2030 sería inferior al 10%, pero no descartable. El principal problema, explicó, es la falta de una “alineación” que garantice que una superinteligencia mantenga objetivos compatibles con los intereses y valores humanos.
Los especialistas sostienen que el riesgo podría reducirse mediante controles, estrategias de seguridad y límites al desarrollo de sistemas cada vez más capaces. El desafío, advierten, es establecer esos frenos antes de que la tecnología avance más rápido que nuestra capacidad para controlarla.
