"Algunos diseñadores de estos sistemas prestan atención inadecuada a las consecuencias imprevistas"
El investigador de inteligencia artificial (IA) Steve Omohundro lanza su alerta en un artículo publicado este mes de abril en la revista ‘Journal of Experimental & Theoretical Artificial Intelligence‘ en el que sostiene que, «a menos que estén diseñadas cuidadosamente», el «rápido desarrollo de los sistemas autónomos» llevará a las máquinas «a comportarse de maneras antisociales y perjudiciales, ya que son propensas a ello», según el diario ‘Rawstory‘.
SON CAPACES DE ‘SORPRENDER’
Omohundro argumenta, según se hace eco ‘RT‘, que en «la tecnología autónoma de los sistemas autónomos», por la cual se entiende todo lo que el diseñador no ha predeterminado, todas las posibles respuestas a las condiciones variables de operación, los robots son capaces de «sorprender a sus diseñadores», comportándose de maneras que son tanto inesperadas como indeseables.
El experto declara que «las presiones militares y económicas están impulsando el rápido desarrollo de los sistemas autónomos», y que estas presiones están causando que algunos diseñadores de estos sistemas presten la atención inadecuada a las consecuencias imprevistas.
INFORME DE LA FUERZA AÉREA
Un informe del 2010 de la Fuerza Aérea de los Estados Unidos, por ejemplo, afirma que «un mayor uso de los sistemas y procesos altamente adaptables y flexibles autónomos pueden proporcionar ventajas operacionales significativas de dominio temporal sobre los adversarios que se limitan a los planes humanos y las velocidades de las decisiones».
Esta necesidad de «ventajas operacionales» crea una presión sobre los diseñadores de sistemas que hace casi imposible diseñar la supervisión humana de los robots.
A su vez Omohundro cree que los científicos deberían desarrollar
«una sucesión de sistemas autónomos demostrablemente seguros que se puedan utilizar en la construcción de sistemas sucesores más poderosos y menos limitados».
De la misma manera, los arquitectos antiguos construían moldes de madera en lo alto con las piedras que conformaban un arco. Una vez que la piedra principal estaba en el lugar, la madera podría ser retirada y el arco se mantenía.
Omohundro concluyó que
«de esta misma manera, podemos construir poderosas tecnologías que pueden servir mejor a los humanos sin un riesgo significativo».
