En total 50 científicos expertos en inteligencia artificial de 30 países del mundo enviaron una carta al Instituto Avanzado de Ciencia y Tecnología de Corea (Kaist), para impedir la creación de “robots asesinos”. El documento va dirigido al presidente de la institución, el profesor Sung-Chul Shin.
“Declaramos públicamente que boicotearemos todas las colaboraciones con cualquier parte de Kaist, hasta que el Presidente de la compañía proporcione garantías, que hemos solicitado pero no hemos recibido, de que el Centro no desarrollará armas autónomas que carezcan de un control humano significativo”, dice la carta.
Como parte del boicot anuncian: “No visitaremos Kaist, no recibiremos visitantes de Kaist, ni contribuiremos con ningún proyecto de investigación que involucre a Kainst”.
Lo que piden los científicos es que estas armas sean prohibidas, al igual que los láser cegadores.
“Pueden simplemente decidir no desarrollarlas”, pidieron.
El Instituto Avanzado de Ciencia y Tecnología de Corea (Kaist) en asociación con el fabricante de armas Hanwha Systems, lanzó la apertura de un “Centro de Investigación para la Convergencia de la Defensa Nacional y la Inteligencia Artificial” en colaboración con Hanwha Systems, la compañía de armas líder de Corea del Sur. Según los científicos, los medios de prensa locales reportaron que el Centro se abrió el 20 de febrero.
“Como investigadores e ingenieros que trabajamos en inteligencia artificial y robótica, estamos muy preocupados”, dijeron.
Los objetivos de este Centro son: “desarrollar tecnologías de inteligencia artificial (IA) para ser aplicadas a armas militares, uniéndose a la competencia mundial para desarrollar armas autónomas”.
“En un momento en que las Naciones Unidas discuten cómo contener la amenaza que representan para la seguridad internacional las armas autónomas, es lamentable que una institución de prestigio como KAIST busque acelerar la carrera armamentista para desarrollar tales armas”, concluyeron los científicos.
Una caja de Pandora
Si se desarrolla el proyecto, los investigadores adelantan que, “las armas autónomas serán la tercera revolución en la guerra. Permitirán que la guerra se dispute más rápido y a una escala mayor que nunca”.
“Ellos tienen el potencial de ser armas de terror. Los déspotas y los terroristas podrían usarlos contra poblaciones inocentes, eliminando cualquier restricción ética. Esta caja de Pandora será difícil de cerrar si se abre”, advierte el documento.
El Instituto Avanzado de Ciencia y Tecnología de Corea (Kaist) ocupa el lugar 46 en el ranking de las Mejores Universidades del Mundo.
Hanwha Group, fundada en 1952 como Korea Explosives Co, es una de las grandes empresas de negocios en Corea del Sur.
“Hanwha está involucrada en la producción de municiones de racimo que están prohibidas por la Convención de la ONU sobre Municiones de Racimo. Como resultado, Noruega excluyó a Hanwah de su fondo de pensiones de $ 380 mil millones por motivos éticos. Mientras que más de 100 naciones han firmado la Convención sobre Municiones en Racimo, Corea del Sur no es una de ellas”, dice el documento.
Carta abierta a la ONU
En julio de 2015, miles de investigadores de Inteligencia Artificial de todo el mundo firmaron una carta abierta a la ONU “pidiendo la prohibición de armas autónomas ofensivas más allá del control humano significativo”.
La carta fue respaldada en agosto de 2017, con un nuevo documento similar firmado “por más de cien fundadores de compañías de Inteligencia Artificial y robótica”.
Solo en noviembre de 2017, las Naciones Unidas iniciaron conversaciones formales sobre la posible prohibición de las armas autónomas.
La próxima reunión en que un Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales trate el tema será en abril en la ONU de Ginebra.
Toby Walsh@TobyWalshFrance, Germany under fire for failing to back ‘killer robots’ ban https://www.politico.eu/article/artificial-intelligence-killer-robots-france-germany-under-fire-for-failing-to-back-robots-ban/ …
France, Germany under fire for failing to back ‘killer robots’ ban
Berlin follows Paris to shy away from tough rules, campaigners say.
politico.eu
“Hasta la fecha, 22 naciones han pedido una prohibición preventiva de las armas autónomas”, concluyen los científicos.
Data Natives@DataNativesConfClosing Keynote: The Third Revolution in Warfare @TobyWalsh #dn2017
Lista de científicos firmantes:
Prof. Toby Walsh, USNW Sydney, Australia.
Prof. Mary-Anne Williams, University of Technology Sydney, Australia.
Prof. Thomas Either, TU Wein, Austria.
Prof. Paolo Petta, Austrian Research Institute for Artificial Intelligence, Austria.
Profesor Toby Walsh de la Universidad NSW de Sidney (Twitter personal)
Prof. Maurice Bruynooghe, Katholieke Universiteit Leuven, Belgium.
Prof. Marco Dorigo, Université Libre de Bruxelles, Belgium.
Prof. Luc De Raedt, Katholieke Universiteit Leuven, Belgium.
Prof. Andre C. P. L. F. de Carvalho, University of São Paulo, Brazil.
Prof. Yoshua Bengio, University of Montreal, scientific director of MILA, co-founder of Element AI, Canada.
Prof. Geoffrey Hinton, University of Toronto, Canada.
Prof. Kevin Leyton-Brown, University of British Columbia, Canada.
Prof. Csaba Szepesvari, University of Alberta, Canada.
Prof. Zhi-Hua Zhou,Nanjing University, China.
Prof. Thomas Bolander, Danmarks Tekniske Universitet, Denmark.
Prof. Malik Ghallab, LAAS-CNRS, France.
Prof. Marie-Christine Rousset, University of Grenoble Alpes, France.
Prof. Wolfram Burgard, University of Freiburg, Germany.
Prof. Bernd Neumann, University of Hamburg, Germany.
Prof. Bernhard Schölkopf, Director, Max Planck Institute for Intelligent Systems, Germany.
Prof. Manolis Koubarakis, National and Kapodistrian University of Athens, Greece.
Prof. Grigorios Tsoumakas, Aristotle University of Thessaloniki, Greece.
Prof. Benjamin W. Wah, Provost, The Chinese University of Hong Kong, Hong Kong.
Prof. Dit-Yan Yeung, Hong Kong University of Science and Technology, Hong Kong.
Prof. Kristinn R. Thórisson, Managing Director, Icelandic Institute for Intelligent Machines, Iceland.
Prof. Barry Smyth, University College Dublin, Ireland.
Prof. Diego Calvanese, Free University of Bozen-Bolzano, Italy.
Prof. Nicola Guarino, Italian National Research Council (CNR), Trento, Italy.
Prof. Bruno Siciliano, University of Naples, Italy.
Prof. Paolo Traverso, Director of FBK, IRST, Italy.
Prof. Yoshihiko Nakamura, University of Tokyo, Japan.
Prof. Imad H. Elhajj, American University of Beirut, Lebanon.
Prof. Christoph Benzmüller, Université du Luxembourg, Luxembourg.
Prof. Miguel Gonzalez-Mendoza, Tecnológico de Monterrey, Mexico.
Prof. Raúl Monroy, Tecnológico de Monterrey, Mexico.
Prof. Krzysztof R. Apt, Center Mathematics and Computer Science (CWI), Amsterdam, the Netherlands.
Prof. Angat van den Bosch, Radboud University, the Netherlands.
Prof. Bernhard Pfahringer, University of Waikato, New Zealand.
Prof. Helge Langseth, Norwegian University of Science and Technology, Norway.
Prof. Zygmunt Vetulani, Adam Mickiewicz University in Poznań, Poland.
Prof. José Alferes, Universidade Nova de Lisboa, Portugal.
Prof. Luis Moniz Pereira, Universidade Nova de Lisboa, Portugal.
Prof. Ivan Bratko, University of Ljubljana, Slovenia.
Prof. Matjaz Gams, Jozef Stefan Institute and National Council for Science, Slovenia.
Prof. Hector Geffner, Universitat Pompeu Fabra, Spain.
Prof. Ramon Lopez de Mantaras, Director, Artificial Intelligence Research Institute, Spain.
Prof. Alessandro Saffiotti, Orebro University, Sweden.
Prof. Boi Faltings, EPFL, Switzerland.
Prof. Jürgen Schmidhuber, Scientific Director, Swiss AI Lab, Universià della Svizzera italiana, Switzerland.
Prof. Chao-Lin Liu, National Chengchi University, Taiwan.
Prof. J. Mark Bishop, Goldsmiths, University of London, UK.
Prof. Zoubin Ghahramani, University of Cambridge, UK.
Prof. Noel Sharkey, University of Sheffield, UK.
Prof. Luchy Suchman, Lancaster University, UK.
Prof. Marie desJardins, University of Maryland, USA.
Prof. Benjamin Kuipers, University of Michigan, USA.
Prof. Stuart Russell, University of California, Berkeley, USA.
Prof. Bart Selman, Cornell University, USA