¿Las soluciones de IA públicas o propietarias son adecuadas para su empresa?Entrevista con el experto Aaron Kalb

Imagen: Adobe Stock/putilov_denis

Cuando se trata de IA generativa, ¿su organización debería elegir IA pública o IA propietaria? Primero, debe considerar las diferencias clave entre estas opciones.

La IA pública puede tener una amplia base de conocimientos y realizar muchas tareas. Sin embargo, la IA pública puede devolver estos datos a los datos de entrenamiento del modelo, lo que podría generar vulnerabilidades de seguridad. Otro enfoque es utilizar datos patentados para el entrenamiento de IA y alojarlos internamente, lo que puede ser más seguro pero requiere más infraestructura.

Algunas empresas, incluida Samsung, han prohibido el uso de IA generada públicamente para uso corporativo debido a riesgos de seguridad. En respuesta a estas preocupaciones, OpenAI, la empresa detrás de ChatGPT, agregó una opción para que los usuarios limiten su uso de datos en abril de 2023.

Aaron Kalb, cofundador y director de estrategia de la empresa de análisis de datos Alation, nos habla sobre cómo se puede usar la inteligencia artificial generativa en el análisis de datos y qué pueden aprender otras organizaciones sobre el estado actual de este campo de rápido crecimiento. Como ingeniero de Siri, obtuvo información sobre los factores que las organizaciones deben considerar al seleccionar tecnologías emergentes, incluida la elección entre conjuntos de datos de IA públicos o propietarios.

La siguiente es una transcripción de mi entrevista con Kalb. Ha sido editado por su extensión y claridad.

Salta a:

¿Entrenar tu propia IA o usar un servicio público?

megan cruz: ¿Cree que las empresas con sus propios grupos de datos privados alimentados con IA serán el camino del futuro, o será un híbrido de IA pública e IA propietaria?

Aarón Kalb: El modelo de lenguaje grande interno es divertido. Existen beneficios y riesgos al ejecutar la capacitación a través de Internet: no todos pueden pagarla o incluso quieren hacerlo. Me sorprende cuánto progreso se puede lograr en modelos grandes previamente entrenados con ajustes finos o ingeniería rápida.

Para los jugadores más pequeños, estas cosas tendrán mucho uso. [AI] Está ahí y se puede reutilizar.Creo que los jugadores más grandes son capaces de hacer su propia [AI] será tentado. Por ejemplo, si observa AWS y Google Cloud Platform, algunas de estas cosas se sienten como una infraestructura central: no me refiero a lo que están haciendo en términos de IA, sino en términos de hospedaje y granjas de servidores. . Es fácil pensar «somos una gran empresa, deberíamos construir nuestra propia granja de servidores». Bueno, nuestro negocio principal es la agricultura o la fabricación. Tal vez deberíamos dejar que los equipos A de Amazon y Google hagan esto, y luego les pagamos centavos por terabyte de almacenamiento o cómputo.

Mi suposición es que, con el tiempo, solo las empresas tecnológicas más grandes encontrarán realmente beneficioso mantener sus propias versiones de estos [AI]; La mayoría de las personas terminan usando un servicio de terceros.Estos servicios serán más seguros y precisos [and] Más sujeto a ajustes de la industria y precios más bajos.

mirar: Hoja de trucos de GPT-4: ¿Qué es GPT-4 y qué hace?

Cómo determinar si la inteligencia artificial es adecuada para su negocio

megan cruz: ¿Qué otras preguntas cree que deberían hacerse los responsables de la toma de decisiones empresariales antes de decidir si implementar la IA generativa? ¿Bajo qué circunstancias es mejor no usarlo?

Aarón Kalb: Tengo experiencia en diseño y mi objetivo es diseñar diamantes. Primero concibes, luego eliges. Otra cosa clave que aprendí del diseño: siempre comienzas con el usuario y el problema del usuario, no con tu producto. ¿Cuál es el mayor problema que tenemos?

Si el equipo de desarrollo de ventas dice: «Descubrimos que obtenemos mejores tasas de respuesta y de apertura cuando el asunto y el cuerpo de nuestros correos electrónicos de divulgación están realmente adaptados al LinkedIn de esa persona y a su empresa o sitio web», y «Dedicamos algunas horas un día haciendo todo esto manualmente y obtener una buena tasa de apertura, pero no enviar muchos correos electrónicos en un día», y resulta que la IA generativa es bastante buena en esto. Puede hacer un pequeño widget que itera a través de la lista de personas para correo electrónico y borra un widget basado en la página de LinkedIn del destinatario y el sitio web de la empresa. La persona simplemente lo edita en lugar de escribirlo en media hora. Creo que tienes que empezar con tu El problema comienza.

mirar: La IA generativa puede crear texto o video a pedido, pero genera preocupaciones sobre el plagio, el uso indebido, el sesgo y más.

Aarón Kalb: Tan emocionante como ya no lo es, gran parte de la IA es un modelo predictivo. Tiene una generación de antigüedad, pero probablemente sea más rentable que darle a la gente algo para escribir en un bot. A la gente no le gusta escribir. Probablemente sea mejor tener una interfaz de usuario excelente que prediga en función de los clics de los compradores o algo así, incluso si se trata de un enfoque diferente.

cosas principales a considerar [when it comes to generative AI] rendimiento de seguridad [and] costo. La desventaja es que la IA generativa es como mover una mochila con una excavadora. Y estás introduciendo aleatoriedad, quizás innecesariamente. Muchas veces preferirías tener algo de certeza.

Determinación de la propiedad de los datos utilizados por la IA

megan cruz: En términos de responsabilidad de TI, si está produciendo su propio conjunto de datos, ¿quién es el propietario de los datos a los que puede acceder la IA? ¿Cómo encaja en el proceso?

Aarón Kalb: Sigo a AWS y creo que los problemas y procesos de privacidad mejorarán con el tiempo. Ahora, por supuesto, esto puede ser algo difícil de hacer. Con el tiempo, incluso si trabaja en el gobierno federal o en una industria verdaderamente regulada, es posible obtener un producto listo para usar con todas las aprobaciones y certificaciones en las que necesita confiar. No sucederá de la noche a la mañana, pero creo que sí.

Sin embargo, LLM es un algoritmo muy pesado. El punto es que aprende de todo, pero no sabe de dónde salió nada. Siempre que te preocupes por el sesgo, [AI may not be suitable]. Y todavía no hay una versión ligera. Es lo que lo hace impresionante lo que lo hace caro. Estos gastos no solo se reducen al dinero: se reducen al poder. No hay suficientes electrones flotando.

AI patentada le permite ver la «caja negra»

megan cruz: Alation se enorgullece de brindar visibilidad en el gobierno de datos. ¿Ha discutido internamente cómo y si evitar el problema de la «caja negra» de la IA, porque no hay forma de entender por qué la IA tomó tal decisión?

Aarón Kalb: Creo que donde realmente quiere saber de dónde proviene todo el «conocimiento» en el que se está entrenando la IA, probablemente quiera construir su propio modelo y el rango de datos en el que se entrenó. El único problema es la primera «L» en «LLM». Si el modelo no es lo suficientemente grande, no obtendrá un rendimiento impresionante.hay una compensación [with] Datos de entrenamiento más pequeños: mayor precisión, menos rarezas, pero también menos fluidez y una habilidad menos impresionante.

Encontrar un equilibrio entre la utilidad y la privacidad

megan cruz: ¿Qué aprendiste al trabajar con Siri y aplicarlo a la forma en que abordas la inteligencia artificial?

Aarón Kalb: siri es el primero [chatbot-like AI]. Se enfrenta a una dura competencia de empresas como Google, que tiene proyectos como Google Voice y un enorme corpus de datos conversacionales generados por los usuarios. Siri no tiene ninguno de estos. Todo se basa en un corpus de texto de periódicos y cosas por el estilo, y hay muchas cosas de IA de razonamiento pasadas de moda basadas en plantillas.

Durante mucho tiempo, incluso si Siri actualizaba el algoritmo utilizado, el rendimiento no podía mejorar mucho.uno [factor] es la Política de Privacidad. Cada conversación que tienes con Siri es independiente, no puede aprender con el tiempo. Esto ayuda a los usuarios a creer que la información no se está utilizando y podría ser mal utilizada en las cientos de formas en que Google la usa, pero Apple no puede aprender de ella.

Asimismo, Apple sigue añadiendo nuevas funciones. El viaje de Siri muestra que cuanto más grande es tu mundo, más poderoso eres. Pero también es un riesgo. Cuantos más datos adquiera, más empoderamiento tendrá, pero también creará problemas de privacidad.este [generative AI] es una tecnología con mucha visión de futuro, pero siempre estás moviendo esos controles deslizantes y sopesando diferentes cosas que le importan a la gente.