He aquí una pregunta para los conocedores del software open source: ¿Debe todo código ser abierto? El pensamiento detrás de esta forma de hacer código es muy bonito: se libera el acceso a los misterios de los programas hechos por uno para que otro pueda tomar el trabajo del primero y mejorarlo. El desarrollo de esta manera es más eficiente. La cordialidad necesaria aparece naturalmente ya que hay un fin en común: desarrollar mejor software. El sentimiento de humildad y camaradería también: estoy trabajando en base a mis antecesores con ayuda de mis compañeros. Todo eso está muy bien cuando se hacen aplicaciones convencionales, por ejemplo, ‘el’ editor de texto vim, una aplicación para el manejo de versiones de directorios git, un programa para ver pdfs (y otro tipo de documentos) zathura y un largo et cétera. Éstas son aplicaciones que al final, por sí mismas, no dejan de ser herramientas, una extensión de la voluntad de la persona que las usa.
¿Qué pasa con la inteligencia artificial generativa? Ya no está tan sencillo. Mientras sea una herramienta tipo Dall-E o algo similar está todo más o menos en el mismo plano. Sin embargo, uno de los objetivos de los programas de inteligencia artificial es hacer una Inteligencia Artigicial General (o AGI por sus siglas en inglés): una inteligencia superior al ser humano en todos los aspectos. Ok, eso ya no suena tanto a una herramienta. Supongamos que tal inteligencia es posible sin tener voluntad propia, entonces bueno, al parecer sigue siendo una herramienta. Sin embargo, no sabemos si eso es posible: remitiéndonos a lo que sabemos toda inteligencia, humana o superior, tiene voluntad propia. El problema de no conocer más allá es que sólo podemos ver en base a lo que conocemos, la analogía es necesaria.
Ahora bien, hablemos de OpenAI y Sam Altman, como indica el título. Ellos están comprometidos con la seguridad con respecto a la inteligencia artificial. Tienen un programa de investigación que trata este tema. Tienen un compromiso social muy fuerte, como indican en su página. No obstante, siguen siendo una organización privada. Tienen, como objetivo una visión muy democrática, sin embargo, no lo suficiente. No hay decisiones posibles fuera de la organización. El problema es que, si la inteligencia artificial es tan disruptiva como afirman sus desarrolladores, entonces, no pueden tomarse decisiones al respecto en base sólo de sus desarrolladores, ya que afectará la vida no solo de sus desarrolladores. Es, políticamente, un asunto público y como tal, debería tener canales para que las decisiones se tomaran de manera lo más democráticamente posible. La ingenuidad de Sam Altman se ve en una declaración en la página de OpenAI. Repetidas veces dice ‘we believe’ o ‘we think’. ¿Quién es este ‘we’? Los miembros de OpenAI. El ‘we’ debería ser más amplio, llegar tan lejos como la Organización de las Naciones Unidas.
Ya desde el nombre, la compañía OpenAI es preocupante. El código de los programas de inteligencia artificial no puede ser abierto. Se mantiene más o menos encriptado debido a la complicación de entenderlo, pero personas capaces y con malos fines lo podrían entender y usar.
Una alegoría servirá para esclarecer la situación. Si entendemos una red neuronal o programa de inteligencia artificial como un ser, ¿no es este ser sobrenatural? En efecto, no sigue las reglas de la naturaleza y sería, según se promete, anormalmente capaz de conocimiento. Entonces, se parece más a un espíritu o un dios. Crear una inteligencia artificial autónoma o AGI es invocar a un espíritu desconocido. La pregunta natural es por el carácter del espíritu invocado. ¿Es Calcifer, el fuego amigable que mueve el castillo de Howl? o ¿Es el pájaro de fuego, como vemos en Fantasía 2000?
via GIPHY Calcifer, de ‘El castillo ambulante’.
Es mi impresión que Altman pertenece a una subcultura de lo ‘awesome’ de Sillicon Valley. Todo el mundo está entusiasmado por algo todo el tiempo. Pero me parece que tanto entusiasmo no da cabida al pensamiento, que ahora es esencial. Da la impresión de que la cultura de Sillicon Valley vive bajo una demanda enorme de progreso y eficiencia. Hay una adoración al concepto de creatividad. Pero la creatividad no es tan esencial siempre, siempre se parte de lo anterior ya hecho. La mera idea de progreso y eficiencia se sienten ahora un tanto anticuadas. El problema es que la nueva tecnología hace tan rápida la comunicación que no da tiempo para pensar, se actúa con una base instintiva todo el tiempo, al grado que se pierde la libertad. Para que haya libertad debe haber cierta distancia de los seres humanos con los fenómenos. Debe haber tiempo de pensar sobre las cosas. Recordemos la tragedia de Sam Bankman-Fried. Fue declarado culpable de malversación de millones de dólares y se enfrenta a décadas en la cárcel. Ante tal aciaga posibilidad le diría a Sam Altman que tiene la oportunidad de pensar otra vez sus bases, observar que tiene un gran poder en sus manos y que debe decidir sabiamente como usarlo.
Recuerde que Moisés no entró en la tierra prometida después de cuarenta años vagando en el desierto. La razón fue que hizo un milagro sin dar el debido respeto a Dios. Hay que recordar que Dios es soberano, los milagros que se hacen no pertenecen a sus siervos. Hay que tratar los milagros con el debido respeto a Dios.
Leave a Reply