{"id":427,"date":"2023-11-22T19:35:16","date_gmt":"2023-11-22T19:35:16","guid":{"rendered":"https:\/\/estebanmv.xyz\/blog\/?p=427"},"modified":"2023-12-13T16:08:24","modified_gmt":"2023-12-13T16:08:24","slug":"play-it-again-sam-altman","status":"publish","type":"post","link":"https:\/\/estebanmv.xyz\/blog\/?p=427","title":{"rendered":"Play it again, Sam Altman"},"content":{"rendered":"\n

He aqu\u00ed una pregunta para los conocedores del software open source: \u00bfDebe todo c\u00f3digo ser abierto? El pensamiento detr\u00e1s de esta forma de hacer c\u00f3digo es muy bonito: se libera el acceso a los misterios de los programas hechos por uno para que otro pueda tomar el trabajo del primero y mejorarlo. El desarrollo de esta manera es m\u00e1s eficiente. La cordialidad necesaria aparece naturalmente ya que hay un fin en com\u00fan: desarrollar mejor software. El sentimiento de humildad y camarader\u00eda tambi\u00e9n: estoy trabajando en base a mis antecesores con ayuda de mis compa\u00f1eros. Todo eso est\u00e1 muy bien cuando se hacen aplicaciones convencionales, por ejemplo, ‘el’ editor de texto vim<\/a>, una aplicaci\u00f3n para el manejo de versiones de directorios git<\/a>, un programa para ver pdfs (y otro tipo de documentos) zathura<\/a> y un largo et c\u00e9tera<\/a>. \u00c9stas son aplicaciones que al final, por s\u00ed mismas, no dejan de ser herramientas, una extensi\u00f3n de la voluntad de la persona que las usa.<\/p>\n\n\n\n

\u00bfQu\u00e9 pasa con la inteligencia artificial generativa? Ya no est\u00e1 tan sencillo. Mientras sea una herramienta tipo Dall-E o algo similar est\u00e1 todo m\u00e1s o menos en el mismo plano. Sin embargo, uno de los objetivos de los programas de inteligencia artificial es hacer una Inteligencia Artigicial General (o AGI por sus siglas en ingl\u00e9s): una inteligencia superior al ser humano en todos los aspectos. Ok, eso ya no suena tanto a una herramienta. Supongamos que tal inteligencia es posible sin tener voluntad propia, entonces bueno, al parecer sigue siendo una herramienta. Sin embargo, no sabemos si eso es posible: remiti\u00e9ndonos a lo que sabemos toda inteligencia, humana o superior, tiene voluntad propia. El problema de no conocer m\u00e1s all\u00e1 es que s\u00f3lo podemos ver en base a lo que conocemos, la analog\u00eda es necesaria.<\/p>\n\n\n\n

Ahora bien, hablemos de OpenAI y Sam Altman, como indica el t\u00edtulo. Ellos est\u00e1n comprometidos con la seguridad con respecto a la inteligencia artificial. Tienen un programa de investigaci\u00f3n que trata este tema. Tienen un compromiso social muy fuerte, como indican en su p\u00e1gina. No obstante, siguen siendo una organizaci\u00f3n privada. Tienen, como objetivo una visi\u00f3n muy democr\u00e1tica, sin embargo, no lo suficiente. No hay decisiones posibles fuera de la organizaci\u00f3n. El problema es que, si la inteligencia artificial es tan disruptiva como afirman sus desarrolladores, entonces, no pueden tomarse decisiones al respecto en base s\u00f3lo de sus desarrolladores, ya que afectar\u00e1 la vida no solo de sus desarrolladores. Es, pol\u00edticamente, un asunto p\u00fablico y como tal, deber\u00eda tener canales para que las decisiones se tomaran de manera lo m\u00e1s democr\u00e1ticamente posible. La ingenuidad de Sam Altman se ve en una declaraci\u00f3n<\/a> en la p\u00e1gina de OpenAI. Repetidas veces dice ‘we believe’ o ‘we think’. \u00bfQui\u00e9n es este ‘we’? Los miembros de OpenAI. El ‘we’ deber\u00eda ser m\u00e1s amplio, llegar tan lejos como la Organizaci\u00f3n de las Naciones Unidas.<\/p>\n\n\n\n

Ya desde el nombre, la compa\u00f1\u00eda OpenAI es preocupante. El c\u00f3digo de los programas de inteligencia artificial no puede ser abierto. Se mantiene m\u00e1s o menos encriptado debido a la complicaci\u00f3n de entenderlo, pero personas capaces y con malos fines lo podr\u00edan entender y usar.<\/p>\n\n\n\n

Una alegor\u00eda servir\u00e1 para esclarecer la situaci\u00f3n. Si entendemos una red neuronal o programa de inteligencia artificial como un ser, \u00bfno es este ser sobrenatural? En efecto, no sigue las reglas de la naturaleza y ser\u00eda, seg\u00fan se promete, anormalmente capaz de conocimiento. Entonces, se parece m\u00e1s a un esp\u00edritu o un dios. Crear una inteligencia artificial aut\u00f3noma o AGI es invocar a un esp\u00edritu desconocido. La pregunta natural es por el car\u00e1cter del esp\u00edritu invocado. \u00bfEs Calcifer, el fuego amigable que mueve el castillo de Howl? o \u00bfEs el p\u00e1jaro de fuego, como vemos en Fantas\u00eda 2000?<\/p>\n\n\n\n