ChatGPT y el dilema de la privacidad en los proyectos empresariales

En el sector financiero, se vislumbra una nueva revolución, comparable a la del Fintech, en esta ocasión provocada por las nuevas tecnologías de inteligencias artificiales generativas, con implicaciones directas en campos como la atención al cliente y los canales de operación conversacionales. Lo cual, como suele ser habitual,  trae consigo nuevos riesgos relacionados con la seguridad...  Por lo tanto vale la pena hacerse algunas preguntas ¿Qué campos de aplicación en el entorno financiero son los que más se van a ver impactados por la aplicación del Machine Learning? ¿Qué estrategias deberían adoptar los bancos para implantar esta tecnología de tal manera que se maximicen los beneficios y se minimicen los riesgos asociados, como la seguridad y la privacidad de los datos?

Consideramos muy importante acomodar esta tecnología con la normativa de asesoramiento de servicios financieros ya que a la hora de la  implementación de las chatbots basados en inteligencia artificial en de las entidades bancarias debemos considerar si estas tecnologías, especialmente las de generación de textos, pueden estar haciendo recomendaciones financieras a los clientes, como lo haría un asesor personal. Al fin y al cabo han sido diseñados de forma que puedan cumplir este propósito, al menos en lo que a lo que se refiere a simular una conversación con un humano, incluso a realizar recomendaciones que pueden sonar plausibles. Lo cual no quiere decir que una máquina realmente esté siendo consciente de las recomendaciones que realiza y de las connotaciones que esto puede suponer. En todo caso lo que queda claro es que la gente sí que va a recurrir a la tecnología para este tipo de cuestiones por lo que quienes lo desarrollan deben introducir las medidas de seguridad y poco a poco ir mejorando el desempeño de estos modelos.

También es importante que seamos conscientes de que en estos momentos existe mucha confusión al respecto de los tipos de Inteligencia Artificial y las utilidades que pueden ofrecer en este sector, tanto a nivel interno para las propias empresas como en lo que se refiere al uso que pueden hacer las personas. Ya que vemos que hay una gran expectativa al respecto de lo que se puede hacer con ChatGPT y las GenAI, lo cual puede generar confusión al respecto de las aplicaciones concretas de otras tecnologías basadas en machine learning que igualmente ofrezcan otras utilidades más específicas. Lo cual nos lleva a proponer nuevamente que resulta fundamental realizar una labora divulgativa y educativa para que realmente se pueda aprovechar todo el potencial de estas tecnologías sin generar humo y evitando la frustración correspondiente por parte de los usuarios.

También encontramos que  hay muchas dudas en lo relativo a la utilización de ChatGPT  proyectos enterprise, especialmente por lo relativo a cuestiones de privacidad y seguridad, por lo que consideramos que el enfoque debe ser como el que en su momento tuvieron las intranet, donde cada entidad puede lograr un gran control sobre su uso, algo que comienza a estar resuelto en el momento en que los grandes proveedores de cloud, como Google y Microsoft integran estas tecnologías en sus servicios. Esta es la causa por la que en estos momentos estamos viendo una adopción lenta y cautelosa en el desarrollo de proyectos basados en Inteligencia Artificial Generativa para grandes entidades del sector financiero, y en otras industrias, por lo que habrá que esperar a que se entienda mejor cómo funcionan estas tecnologías y qué connotaciones tienen para la empresa.

En todo caso desde SNGULAR siempre vamos a considerar que la clave para el éxito de la adopción de estas tecnologías se encuentra en contar con el talento adecuado y preparado. También nos atrevemos a plantear un futuro cercano donde acabarán llegando los GPTs personalizados para entidades bancarias, o sus equivalentes desarrollados por otras empresas tecnológicas, aunque no será de manera rápida por todas las complejidades que tiene este sector y lo novedosa que es aún esta tecnología.

Aprende más sobre Inteligencia Artificial con el equipo de SNGULAR