OpenAI ha sumado a Paul Christiano, un investigador prominente de IA conocido por su trabajo en alineación, a la junta de su fundación. Christiano ha sido un defensor vocal de medidas de seguridad rigurosas y ha advertido sobre los riesgos de la IA avanzada. El nombramiento señala un énfasis continuo en la seguridad dentro de la organización. Los términos financieros del nombramiento no fueron revelados.
Paul Christiano en la junta es una señal fuerte. Dice que OpenAI va en serio con la alineación, no solo con escalar. Este es el tipo de movimiento que genera confianza. Necesitamos más personas que hagan preguntas difíciles sobre qué pasa cuando la IA nos supera en inteligencia.
Pero un asiento en la junta no es una bala de plata. La prueba real es si la investigación en seguridad recibe los recursos que necesita. Soy optimista, pero estaré observando para ver si esto se traduce en acción real. El futuro es brillante, pero tenemos que dirigirlo con cuidado.