La directora de Salesforce en el Reino Unido pide al gobierno que no regule a todas las empresas de IA de la misma manera

La Regulación de la Inteligencia Artificial en el Reino Unido: Perspectivas de Salesforce

La Necesidad de Regulaciones Proporcionadas

En una reciente conversación con CNBC en Londres, Zahra Bahrololoumi, la directora ejecutiva de Salesforce para el Reino Unido y Irlanda, expresó su opinión sobre la regulación de la inteligencia artificial (IA) por parte del gobierno laborista. Bahrololoumi enfatizó que es esencial que los políticos no traten a todas las empresas de tecnología que desarrollan sistemas de IA de la misma manera. Ella subrayó que la regulación debe ser “proporcional y adaptada” a las diferentes necesidades de las empresas.

Diferencias entre Tecnologías de Consumo y Empresariales

Bahrololoumi hizo hincapié en que existe una clara diferencia entre las empresas que desarrollan herramientas de IA para consumidores, como OpenAI, y aquellas que se enfocan en sistemas de IA para empresas, como Salesforce. Las herramientas de IA dirigidas al consumidor, tales como ChatGPT, enfrentan menos restricciones en comparación con los productos de IA empresarial, que deben cumplir con estándares más altos de privacidad y seguir pautas corporativas.

La Propuesta de Legislación

Cuando se le preguntó sobre las propuestas de regulación de IA en el Reino Unido, Bahrololoumi manifestó que el enfoque debería ser sobre “legislación específica, proporcionada y adaptada”. Ella mencionó que cada tipo de tecnología desempeña un rol diferente en el ecosistema, y que Salesforce, como una organización B2B (business-to-business), tiene necesidades y responsabilidades distintas.

Declaraciones del Departamento de Ciencia, Innovación y Tecnología

Un portavoz del Departamento de Ciencia, Innovación y Tecnología del Reino Unido (DSIT) indicó que las futuras reglas sobre IA estarían “altamente dirigidas” a las pocas empresas que desarrollan los modelos de IA más poderosos, en lugar de aplicar “reglas generales” a todas las empresas que utilizan IA. Esto sugiere que las normas podrían no aplicarse a Salesforce, ya que la compañía no desarrolla sus propios modelos fundamentales como lo hace OpenAI.

Compromiso con el Desarrollo de la IA

El portavoz del DSIT también afirmó que el gobierno reconoce el poder de la IA para impulsar el crecimiento y mejorar la productividad, y se compromete a apoyar el desarrollo del sector de IA en el Reino Unido. Esto se da en un contexto donde se busca acelerar la adopción de la tecnología a través de la economía.

Enfoque Ético de Salesforce en la IA

Salesforce ha enfatizado las consideraciones éticas y de seguridad en su plataforma de tecnología de IA, Agentforce. Esta plataforma permite a las organizaciones empresariales crear sus propios “agentes” de IA, que son esencialmente trabajadores digitales autónomos que ejecutan diversas funciones, como ventas, servicio y marketing. Un ejemplo de esto es la función de “cero retención”, que asegura que los datos de los clientes no se almacenen fuera de Salesforce. Esto significa que las solicitudes y salidas generadas por la IA no se almacenan en los modelos de lenguaje de Salesforce.

Preocupaciones sobre la IA de Consumo

Bahrololoumi también expresó su preocupación por la falta de claridad en torno a cómo se utilizan los datos para entrenar modelos de IA de consumo, como ChatGPT, Claude de Anthropic o el asistente de IA de Meta. Ella destacó que es difícil saber qué datos se están utilizando y dónde se almacenan, lo que plantea interrogantes sobre la privacidad y la seguridad.

Riesgos Asociados a Herramientas de IA Empresariales

Incluso herramientas como Copilot de Microsoft, que están dirigidas a clientes empresariales, presentan riesgos elevados, de acuerdo con Bahrololoumi. Ella citó un informe de Gartner que señala los riesgos de seguridad que la asistente de IA de Microsoft puede representar para las organizaciones.

Consideraciones de Regulación para Empresas de IA

Bola Rotibi, jefe de investigación empresarial en la firma de análisis CCS Insight, señaló que aunque los proveedores de IA enfocados en empresas son más conscientes de los requisitos de seguridad y privacidad de datos, no se debe asumir que las regulaciones no examinarán tanto a las empresas de consumo como a las de negocio. Rotibi mencionó que todas las preocupaciones sobre el consentimiento, la privacidad, la transparencia y la soberanía de datos son aplicables en todos los niveles, independientemente de si se trata de tecnología de consumo o empresarial.

Un Proceso de Revisión Más Matizado

A pesar de esto, Rotibi sugirió que los reguladores podrían sentirse “más seguros” en las medidas de cumplimiento de IA adoptadas por proveedores de aplicaciones empresariales como Salesforce, ya que comprenden lo que implica ofrecer soluciones y soporte a nivel empresarial. Ella concluyó que es probable que se realice un proceso de revisión más matizado para los servicios de IA de proveedores de soluciones empresariales ampliamente desplegados como Salesforce.

Contexto Político en el Reino Unido

Las declaraciones de Bahrololoumi se produjeron durante el Agentforce World Tour de Salesforce en Londres, un evento diseñado para promover el uso de la nueva tecnología de IA “agente” de la compañía entre socios y clientes. Este evento se lleva a cabo en un momento en que el Primer Ministro del Reino Unido, Keir Starmer, y el Partido Laborista han optado por no introducir un proyecto de ley sobre IA en el Discurso del Rey, que es elaborado por el gobierno para delinear sus prioridades para los próximos meses. En ese momento, el gobierno indicó que planeaba establecer “legislación apropiada” para la IA, aunque no ofreció más detalles.