Llegará un momento en el que las máquinas superarán la inteligencia de los humanos y estos deberán contar con un sistema de prevención para poder interrumpirlas. No es otro guión de película de ciencia ficción, sino la hipótesis de la que parte un estudio realizado por Deep Mind, la empresa de Google especializada en inteligencia artificial, y el Instituto para el Futuro de la Humanidad de la Universidad de Oxford. Ambas empresas han desarrollado de forma conjunta un “gran botón rojo” de emergencia para evitar que las máquinas realicen una “secuencia de acciones dañinas” para el entorno, el operador humano o para ellas mismas; y poder “guiarlas a una situación segura”. O lo que es lo mismo, queremos tener controladas las máquinas (por si las moscas).
Ante el temido supuesto de que las máquinas logren superar la inteligencia de los humanos, resulta un alivio que se pueda disponer de un sistema de prevención para interrumpirlas. Pero no está claro si todos los algoritmos pueden ser fácilmente interrumpibles, admiten.
El director del Instituto para el Futuro de la Humanidad, Nick Bostrom sostiene que debemos saber cómo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve lo suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podría incluir esconder sus propias capacidades de modo estratégico.
Fuente: mundocontact , video canalcienciayficcion
No hay comentarios:
Publicar un comentario