Las principales empresas de inteligencia artificial no saben c\u00f3mo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirti\u00f3 el lunes Jacob Coxon, exempleado de OpenAI y Anthropic cr\u00edtico de la seguridad de esta tecnolog\u00eda.<\/p>\n
A principios de septiembre, el investigador brit\u00e1nico explic\u00f3 en X su decisi\u00f3n de dimitir de Anthropic y afirm\u00f3 que los desarrolladores de Inteligencia Artificial (IA) cre\u00edan que la tecnolog\u00eda podr\u00eda acabar con la humanidad \"antes de que termine la d\u00e9cada\".<\/p>\n
Su declaraci\u00f3n dio la vuelta al mundo. Desde entonces, varios empleados y ex empleados de las grandes empresas de la IA han expresado inquietudes similares.<\/p>\n
Riesgos de la IA<\/strong><\/p>\n \"Las empresas est\u00e1n siendo extremadamente imprudentes dadas las circunstancias\", dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.<\/p>\n Aunque la IA podr\u00eda aportar \"beneficios enormes\" a la sociedad, \"por su trayectoria actual, creo que es m\u00e1s probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinci\u00f3n humana\", reiter\u00f3.<\/p>\n \"No sabemos c\u00f3mo impedir que desarrollen objetivos propios\", m\u00e1s all\u00e1 del control de sus creadores, \"y no contamos con las salvaguardas necesarias para evitar que act\u00faen en funci\u00f3n de esos objetivos\", advirti\u00f3 Coxon.<\/p>\n Asimismo, cuestion\u00f3 la cultura de la industria tecnol\u00f3gica: las empresas \"funcionan con una mentalidad de startup: mu\u00e9vete r\u00e1pido, rompe cosas y arr\u00e9glalas despu\u00e9s\".<\/p>\n Incidentes recientes<\/strong><\/p>\n \"Eso puede funcionar para una aplicaci\u00f3n de intercambio de fotos. No sirve para desarrollar la tecnolog\u00eda m\u00e1s poderosa jam\u00e1s creada\", apunt\u00f3 el investigador.<\/p>\n Tambi\u00e9n aludi\u00f3 al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a internet e irrumpieron en la plataforma Hugging Face.<\/p>\n Llamado a la regulaci\u00f3n<\/strong><\/p>\n \"Mientras la actitud sea esperar a que las cosas se rompan, alg\u00fan d\u00eda es probable que algo as\u00ed vuelva a suceder\", afirm\u00f3 Coxon.<\/p>\n El investigador insisti\u00f3 en que se necesitaes \"alg\u00fan tipo de desaceleraci\u00f3n en la frontera tecnol\u00f3gica\" e inst\u00f3 a las empresas de IA que est\u00e1n a la vanguardia a darle tiempo a los inform\u00e1ticos para avanzar en formas de mantener los modelos bajo control.<\/p>\n","protected":false},"excerpt":{"rendered":" Las principales empresas de inteligencia artificial no saben c\u00f3mo impedir que los sistemas de IA…<\/p>\n","protected":false},"author":3,"featured_media":8356,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5,76],"tags":[],"class_list":["post-8352","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-portada","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/posts\/8352","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/comments?post=8352"}],"version-history":[{"count":1,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/posts\/8352\/revisions"}],"predecessor-version":[{"id":8354,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/posts\/8352\/revisions\/8354"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/media\/8356"}],"wp:attachment":[{"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/media?parent=8352"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/categories?post=8352"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elviajero.com.do\/index.php\/wp-json\/wp\/v2\/tags?post=8352"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}