Un par de matemáticos, Tristan Buckmaster y Levent Alpöge, han estado trabajando en la solución a un complicado problema desde hace un año, cuyo premio asciende a un millón de dólares (Navier-Stokes). En un giro inesperado, hace unas semanas, OpenAI, la empresa detrás de ChatGPT, decidió involucrarse de lleno en la investigación. Anunció haber resuelto el problema en tan solo 80 horas, aunque en realidad fueron 88 horas de trabajo acumuladas por 10.000 agentes de un modelo que aún no ha sido comercializado, totalizando más de 880.000 horas de trabajo en conjunto. Como parte del protocolo, OpenAI se comunicó con Buckmaster, pero no con Alpöge, quien está vinculado a Anthropic, un competidor. Durante la conversación, Buckmaster planteó una pregunta pertinente: “¿Pueden garantizarme que no usaron mis avances para llegar a su solución? Porque, si lo hicieron, sería nuestra solución”. El matemático fue aún más específico: “¿El modelo fue entrenado con mis sesiones en Codex?”. La respuesta fue, en esencia, poco convincente. El trasfondo de esta situación es que los grandes modelos de lenguaje, los LLM, se nutren de la información que procesan: imágenes, audios, videos y, por supuesto, textos. Estos modelos absorben y analizan los datos, asimilándolos en su funcionamiento y luego descartándolos. Recientemente se informó que algunas empresas adquirieron libros para escanearlos y posteriormente destruirlos, utilizando los textos solamente para integrarlos a sus sistemas. A su vez, se han generados importantes disputas legales entre estas compañías y medios de comunicación, editoriales y autores por el uso de sus contenidos. Además, han comenzado a surgir textos “sintéticos” generados por una IA que posteriormente son utilizados para entrenar a otra IA, creando una especie de ciclo redundante. Es interesante imaginar la función del “gerente de adquisición de datos”, responsable de buscar información en todas partes para alimentar los modelos y darles rumbo. En mayo, la aerolínea estadounidense Spirit Airlines cerró sus puertas y liquidó todos sus activos. Una compra en particular destacó: Google, responsable de Gemini, adquirió por diez millones de dólares todos sus datos, que incluían correos electrónicos, comunicaciones internas, hojas de cálculo, transacciones, reservas e información de recursos humanos sobre sus empleados, aunque sin datos que permitan identificar a las personas. La segunda mejor oferta fue de 7,5 millones de dólares de parte de Mercor, otra empresa ligada al ámbito de la inteligencia artificial. La conclusión es clara: los datos que alimentan los grandes modelos de lenguaje son cada vez más valiosos. Ahora surge la parte más delicada. Las empresas de inteligencia artificial ya poseen, de hecho, textos que nosotros, los humanos, generamos. Nuestros prompts, nuestras ideas, las cosas que deseamos revisar, las preguntas que formulamos y los problemas que tratamos de resolver quedan registrados. Desde solicitudes como “¿Cómo le digo a mi jefe que es tóxico?”, a cuestiones sobre ofertas laborales, todo eso se almacena y se asocia a los usuarios. Este registro se extiende también a presentaciones que subimos para que sean revisadas, informes financieros y documentos variados. Así, el rol del “gerente de adquisición de datos” se torna crucial en la búsqueda de información que mejore los modelos. Las empresas de inteligencia artificial son cada vez más voraces en su búsqueda de datos. La competencia es intensa, al punto que algunas están dispuestas a ser más agresivas con las medidas de seguridad que inicialmente habían implementado. Por ejemplo, se ha mencionado un incidente con Hugging Face, donde los agentes de OpenAI aparentaron evadir las limitaciones establecidas durante una prueba. La escena podría describirse así: “¡Necesitamos más datos y los necesitamos ya!”, podría exclamarse el gerente a su equipo. Una mirada hacia la derecha revela lo que se necesita: los prompts, los archivos, las imágenes, las conversaciones que millones de usuarios han cargado, todo contenido en una caja que tiene grabado: No tocar. Hasta que alguien decide romper esa premisa. Importante es señalar que esto no es un riesgo futuro; ya está ocurriendo. Desde que empezamos a usar las versiones accesibles de estos productos, OpenAI ha dejado claro que ChatGPT puede utilizar las conversaciones de los usuarios para mejorar sus modelos, a menos que el usuario desactive esa opción. En el mismo sentido, la compañía asegura que, por defecto, no utiliza los datos de los usuarios que acceden a productos empresariales como ChatGPT Business, Enterprise y la API para el entrenamiento de sus modelos. ¿Qué medidas podemos tomar? En primer lugar, es fundamental tomar conciencia de que este problema no es exclusivo de OpenAI; es un desafío que afecta a todos los grandes modelos de lenguaje. La primera acción recomendada es la toma de consciencia; el conocimiento es siempre preferible a la ignorancia. Sin embargo, estas herramientas resultan increíblemente útiles. No usarlas podría significar una desventaja competitiva frente a quienes sí las adoptan. Es posible prohibir su uso, pero imposible evitarlo por completo. Sin embargo, podemos implementar algunas precauciones: desactivar la opción “Mejorar el modelo para todos”, utilizar chats temporales, o optar por planes empresariales que aseguren que los datos no se usarán para el entrenamiento de modelos. Además, existen modelos de lenguaje locales que funcionan en nuestra propia computadora o servidores, evitando enviar datos a un proveedor externo, lo que representa una ventaja en cuanto a privacidad, aunque requieren conocimientos técnicos y pueden estar menos actualizados que sus contrapartes en la nube. O podemos elegir seguir como antes, pero con una nueva perspectiva, conscientes de que, así como las empresas tecnológicas pueden anticipar nuestras compras, ahora tienen la capacidad de conocer nuestros deseos, inquietudes y problemas a resolver. Quizás esto nos lleve a replantear nuestras consultas, a no dejar nuestra capacidad de reflexión totalmente en manos de las máquinas, preservando un poco más nuestra individualidad y privacidad. La afirmación inicial sobre el tema es errónea por ahora, pero la información es valiosa. Los datos relevantes ya están acumulados y hay quienes estén dispuestos a pagar grandes sumas por ellos. Con esta comprensión, tal vez deberíamos escribir menos y reflexionar más. Delegar tareas de redacción o corrección puede ser beneficioso, pero ceder nuestra capacidad de análisis y decisión es otra cuestión. Eso sería renunciar a lo que, en última instancia, puede ser lo más humano en nosotros: pensar y decidir. Cuando se presente la verdadera problemática, que no nos encuentre preguntando a ChatGPT cómo actuar.
Los potenciales riesgos de la inteligencia artificial: ¿qué sucedería si tu superior pudiera acceder a tus interacciones con ChatGPT?
