Chat GTP, II Parte: Lo que tal vez no hemos considerado

“Desde que la nueva plataforma Open IA, Chat GPT, se hizo pública en noviembre del año pasado, se han publicado cientos de artículos que detallan los beneficios y casos de uso de la plataforma y el algoritmo que la habilita. Los casos de uso son extremadamente variados, desde el soporte de correcciones de código (para desarrollos tecnológicos) hasta el soporte de la creación de artefactos de marketing. Hace poco vi una serie de comandos que lograban crear un “plan de negocios” desde cero con un entregable relativamente preciso y detallado “-en una hora-”, dice Vanessa Ramos, líder de Aurys Digital.

-Este amplio abanico de posibilidades tiene a muchos deslumbrados y capaces de hacer cosas que antes no podían y a muchos otros temerosos de perder su trabajo o de que todo sea reemplazado por algoritmos. ¿Qué has observado de esto?

Dependiendo de la fuente, se especula que el uso de GPT puede ahorrar horas de trabajo (por ejemplo, a los desarrolladores de código) dando las primeras pautas o haciendo QA (Garantía de calidad), o puede reemplazar segmentos completos en ciertas industrias, como cambiar a profesionales de servicio al cliente. ya que puedes interactuar con los consumidores de forma natural. Y es por eso que Chat GPT logró ganar 1 millón de usuarios a los 5 días de su lanzamiento y hoy se estima que superó los 100 millones.

-Con toda esta cobertura sobre los casos de uso y los beneficios, parecería que no hay limitaciones o áreas de preocupación relacionadas con su uso. ¿Existir?

Si existen varios y requieren que los usuarios presten atención. Esto es mucho más importante cuando los usuarios son empresas que están considerando cómo incorporar esta herramienta (y otras similares) en su estrategia de transformación digital corporativa, lo que debe ir acompañado de un asesoramiento experto. Puedo pensar en 4 áreas de precaución como ejemplos:

1. Precisión: Use ChatGPT para temas donde la precisión está actualmente en riesgo. Aunque el modelo generativo se entrenó con más de 600 GB de datos, la información que proporciona aún puede ser incorrecta. Dado que el modelo está orientado a proporcionar una respuesta final, puede generar una respuesta que parece ser lo suficientemente detallada y sofisticada pero incorrecta. Si no se hace una buena revisión, se puede compartir información incorrecta.

2. Sesgo: Promover sesgos sin darse cuenta es muy posible. ChatGPT es un modelo de PNL y los estudios en 2019 y 2020 han revelado la tendencia de los modelos de PNL que han amplificado los sesgos raciales y de género.

3. Contexto: ChatGPT no tiene la capacidad de deducir el contexto, ya que los humanos podemos, por lo tanto, si las solicitudes no están precedidas por la cantidad correcta de contexto, la respuesta no tendrá éxito.

4. Privacidad: Para acceder a ChatGPT, debe registrarse con información de identificación personal. Todas las búsquedas están vinculadas a su información de autenticación. Dado que el modelo agrega contexto de búsquedas para mejorar las respuestas, también crea un perfil del usuario.

Dadas estas limitaciones, hay actividades para las que ChatGPT, en su estado actual, no es la herramienta más adecuada. Algunos ejemplos son:

· Cree documentos que deben estar correctamente referenciados, como la investigación. Actualmente, las citas pueden ser incorrectas o inexistentes, por lo que es mejor usar la herramienta para crear un esquema y luego escribirlo.

· Crear diagnósticos médicos. Para esto, se debe consultar a un profesional médico. La ciencia está avanzando y hay varias áreas que están aplicando la Inteligencia Artificial al proceso de diagnóstico, sin embargo, funciona mejor cuando las condiciones son “de libro de texto”, por lo que aún se necesita el aporte de expertos.

· Desarrollar documentos legales. Si bien se pueden crear lineamientos para las cláusulas que se deben incluir en un contrato, por ahora es importante que la revisión final la haga un experto en el área y la geografía específica.

· Reemplace el experto integrador. Aunque el proceso de recopilación de información se está acelerando, aún es necesario saber cómo se integrará y utilizará esta información.

Dada la velocidad de maduración de estas tecnologías y el nivel y calidad de inversores que tiene Open IA, no se puede descartar que estas limitaciones se resuelvan a medio plazo y ChatGPT consiga abordar estos casos de uso más específicos.

Dicho esto, es evidente que la plataforma es un aporte a procesos definidos y con el requerimiento de integrar la mayor cantidad de información posible, pero hoy todavía no reemplaza el aporte humano de calidad que se requiere para administrar una empresa.