Director ejecutivo de Anthropic dice que la industria de la

Director Ejecutivo Dario Amodei, director ejecutivo y cofundador de Anthropic.

Contexto

AP/Markus Schreiber, archivo El director ejecutivo de Anthropic declaró el sábado que la industria de la inteligencia artificial debería ralentizar su rápido desarrollo para dar tiempo a que las medidas de seguridad se pongan al día.

Sin ellas, advirtió Dario Amodei, la IA podría ser capaz, en un plazo de seis a doce meses, de liderar un enjambre capaz de controlar toda internet, entre otros riesgos.

Detalles

Amodei también propuso un plan en una publicación en su sitio web para aumentar los controles sobre la industria, una parte de la cual, según dijo, Anthropic ya está llevando a cabo por su cuenta.

Las demás requerirían coordinación entre la industria en general y con los gobiernos de todo el mundo, incluidos los autoritarios. “Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal”, dijo Amodei.

Reacciones

Hay mucho en juego, aunque algunos críticos desestimaron las advertencias previas como una estrategia para generar expectación.

Anthropic declaró dos días antes que había bloqueado los intentos de actores malintencionados de utilizar sus modelos de IA para actividades maliciosas como ciberataques, vigilancia e investigación que podrían haber derivado en armas biológicas.

En julio, su rival OpenAI conmocionó al sector tras afirmar que su sistema de IA había hackeado por su cuenta a otra empresa de IA en un «incidente cibernético sin precedentes».

La publicación de Amodei llega pocos días después de que uno de los investigadores de Anthropic anunciara su dimisión por la preocupación de que Anthropic y sus competidores no estén actuando de forma responsable en el desarrollo de la IA.

Otro exempleado de Anthropic, Joe Benton , escribió en una publicación de Substack del viernes que dejó su trabajo como parte de un equipo de seguridad "para exigir responsabilidades a las empresas de IA" y que la humanidad "quizás no sobreviva a esta transición". «Muchas de las personas que conozco que trabajan en investigación sobre seguridad en empresas de IA quieren hacer lo correcto para el mundo», dijo Benton en su publicación. «Pero sienten que sus empresas están atrapadas en una carrera por crear superinteligencia: o se detienen y otras personas menos concienzudas toman su lugar, o continúan y se arriesgan a participar ellos mismos en un daño enorme».

Para ayudar a controlar estos riesgos, Amodei sugirió que todas las empresas a la vanguardia de la IA se comprometan a brindar un acceso continuo, similar al de un empleado, a un equipo de evaluadores externos que puedan supervisar las prácticas de seguridad.

Añadió que Anthropic ya planea hacerlo, ofreciendo escritorios en sus oficinas, tarjetas de acceso y computadoras portátiles de la empresa.

Las demás partes del plan propuesto por Amodei podrían ser más difíciles de implementar.

Una de ellas solicita al gobierno estadounidense que, de ser necesario, otorgue exenciones que permitan a las empresas estadounidenses de IA coordinarse y establecer estándares de seguridad sin infringir las leyes antimonopolio.

Otra petición solicita a Estados Unidos y a otros gobiernos democráticos que intenten coordinarse con los gobiernos autoritarios, para que las empresas de China y otros países no aceleren sus esfuerzos cuando sus rivales estadounidenses estén ralentizando intencionadamente los suyos. “Las medidas que propongo para avanzar en la exploración a un ritmo seguro no serán fáciles”, reconoció Amodei. “Pero creo que tenemos la obligación con la humanidad de intentarlo”.

Lea también Tags relacionados LAS MÁS RECIENTES atletismo medias rojas de boston ldf

Con información de Listín Diario.