Una ciudad brasileña promulga una ordenanza redactada por ChatGPT, sin saberlo

RÍO DE JANEIRO (AP) — Legisladores municipales de Brasil han promulgado la que parece ser la primera ley del país redactada íntegramente por inteligencia artificial, aunque lo desconocían en ese momento.

La ordenanza experimental fue aprobada en octubre en la ciudad sureña de Porto Alegre, y el concejal Ramiro Rosário reveló esta semana que había sido escrita por un chatbot, lo que provocó objeciones y suscitó dudas sobre el papel de la inteligencia artificial en las políticas públicas.

Rosário dijo a The Associated Press que pidió a ChatGPT, el chatbot de OpenAI, que redactara una propuesta para impedir que el ayuntamiento cobrara a los contribuyentes la sustitución de los medidores de consumo de agua en caso de robo. Después la presentó a sus 35 colegas del consejo sin introducir ni un solo cambio ni informarles acerca de su inédito origen.

“Si lo hubiera dicho antes, seguramente la propuesta ni siquiera se habría sometido a votación”, indicó Rosário a la AP vía telefónica el jueves. Los 36 miembros del consejo la aprobaron por unanimidad y la ordenanza entró en vigor el 23 de noviembre.

“Hubiera sido injusto para la población correr el riesgo de que el proyecto no fuera aprobado simplemente porque fue escrito por inteligencia artificial”, añadió.

La llegada de ChatGPT al mercado hace apenas un año ha generado un debate global sobre el impacto de los potencialmente revolucionarios chatbots alimentados por IA. Si bien algunos la ven como una herramienta prometedora, también ha causado inquietud y preocupación por las repercusiones impensadas o no deseadas de que una máquina se encargue de tareas que actualmente realizan los seres humanos.

Porto Alegre, con 1,3 millones de habitantes, es la segunda ciudad más grande del sur de Brasil. El presidente del ayuntamiento, Hamilton Sossmeier, se enteró de que Rosário había encargado a ChatGPT escribir la propuesta cuando el concejal se jactó del logro en las redes sociales el miércoles. Sossmeier, en un inicio, dijo a los medios locales que le parecía un “precedente peligroso”.

Lo que hacen los grandes modelos lingüísticos de inteligencia artificial que permiten la operación de chatbots como ChatGPT es tratar de adivinar repetidamente la siguiente palabra de una frase, y son propensos a inventar información falsa, un fenómeno que a veces se denomina alucinación.

Todos los chatbots a veces introducen información falsa a la hora de resumir un documento, desde un 3% de las veces en el caso del modelo más avanzado de GPT hasta un 27% en uno de los modelos de Google, de acuerdo con una investigación recién publicada por la empresa de tecnología Vectara.

En un artículo publicado en el sitio web del Centro de Profesión Jurídica de la Facultad de Derecho de Harvard este año, Andrew Perlman, decano de la Facultad de Derecho de la Universidad de Suffolk, escribió que ChatGPT "podría augurar un cambio aún más trascendental que la llegada de internet”, pero también advirtió de sus posibles deficiencias.

“Puede que no siempre sea capaz de dar cuenta de los matices y las complejidades del derecho. Debido a que ChatGPT es un sistema de aprendizaje automático, podría no tener el mismo nivel de comprensión y juicio que un abogado humano a la hora de interpretar principios y precedentes jurídicos. Eso podría generar problemas en situaciones en donde se necesita un análisis jurídico más profundo”, escribió Perlman.

Rosário no es el primer legislador del mundo a poner a prueba las habilidades de ChatGPT. Otros han hecho lo mismo de manera más limitada o con resultados menos exitosos.

En Massachusetts, el senador estatal Barry Finegold recurrió a ChatGPT para que le ayudara a redactar un proyecto de ley destinado a regular los modelos de inteligencia artificial, incluido ChatGPT. Fue presentado a principios de año, pero aún no se ha votado.

Finegold afirmó vía telefónica el miércoles que ChatGPT puede ser de ayuda con algunos de los elementos más tediosos del proceso legislativo, como buscar y citar correcta y rápidamente las normas que ya están en vigor. Aun así, es fundamental que todo el mundo sepa que se ha utilizado ChatGPT o una herramienta similar en el proceso, puntualizó.

“Queremos que el trabajo generado por ChatGPT lleve una marca de agua”, dijo, y añadió que el uso de la inteligencia artificial para ayudar a redactar nuevas leyes es inevitable. “Estoy a favor de que se use ChatGPT para escribir propuestas de ley, siempre que sea claro”.

Esa transparencia no se dio en el caso de la propuesta de Rosário en Porto Alegre. Sossmeier dijo que Rosário no informó a los demás concejales que ChatGPT había redactado la propuesta.

Mantener secreto el origen de la propuesta fue intencional. Rosário explicó a la AP que su objetivo no era solamente resolver un asunto local, sino también encender el debate. Dijo que introdujo una instrucción de 49 palabras en ChatGPT y éste le regresó el borrador completo de la propuesta en pocos segundos, incluidos los considerandos.

“Esto convencido de que... la humanidad vivirá una nueva revolución tecnológica”, manifestó. “Todas las herramientas que hemos desarrollado como civilización pueden ser usadas para mal y para bien. Es por eso que tenemos que enseñar cómo usarlas para bien”.

Y el presidente del consejo, que en un principio se opuso al método, parece haber cambiado de opinión.

“Cambié de parecer”, dijo Sossmeier. “Empecé a leer más a fondo y vi que, por desgracia o por suerte, esto va a ser una tendencia”.

___

Savarese informó desde Sao Paulo. Los periodistas de The Associated Press Steve LeBlanc en Boston y Matt O’Brien en Providence, Rhode Island, contribuyeron a este despacho.