La tensión y la confusión han hecho que la asociación entre Microsoft y OpenAI sea «extraña», revelaron personas familiarizadas con el asunto en un Informe del diario de Wall Street hoy.

Esa tensión y confusión no solo se extendió al equipo interno de inteligencia artificial de Microsoft, que aparentemente está lidiando con recortes presupuestarios y acceso limitado a la tecnología OpenAI, sino que las fuentes dijeron que también eclipsó el controvertido lanzamiento de búsqueda de Bing impulsado por inteligencia artificial de Microsoft en febrero pasado. En ese entonces, Bing era vulnerable a los ataques de inyección rápida, revelando secretos de la empresa y brindando respuestas a veces inexactas y verdaderamente desequilibradas a las solicitudes de los usuarios.

Según el WSJ, OpenAI advirtió a Microsoft «sobre los peligros de apresurarse a integrar la tecnología de OpenAI sin más capacitación» y «sugirió que Microsoft sea más lento en la integración de su tecnología de IA con Bing». Una de las principales preocupaciones de OpenAI era que el chatbot Sydney de Bing podría dar respuestas inexactas o desequilibradas, pero Microsoft aparentemente ignoró fácilmente esta advertencia inicial.

En un entrevista por cable publicado hoy, el CEO de Microsoft, Satya Nadella, sugirió que cualquier problema con Sydney al principio era solo parte del plan de Microsoft para entrenar al chatbot para responder a solicitudes del mundo real que no podían probarse en el laboratorio.

“No lanzamos Sydney con GPT-4 el primer día que lo vi, porque teníamos mucho trabajo para construir un cinturón de seguridad”, dijo Nadella a Wired. «Pero también sabíamos que no podíamos hacer toda la alineación en el laboratorio. Para alinear un modelo de IA con el mundo, es necesario alinearlo en el mundo y no en alguna simulación».

En parte, esa es la razón por la que Microsoft se apresuró de todos modos, pero las fuentes le dicen al WSJ que la prisa también se debió en parte a que los ejecutivos de Microsoft tenían «dudas sobre el momento del lanzamiento de ChatGPT el otoño pasado».

Cuando OpenAI comenzó las pruebas públicas de ChatGPT mientras Microsoft aún trabajaba en la integración de la tecnología OpenAI en Bing, aparentemente aumentó la tensión entre los socios, que también eran rivales en una carrera de IA para captar la atención del mundo.

A medida que crecía el éxito de ChatGPT, algunos empleados de Microsoft expresaron su preocupación de que ChatGPT estaba robando el «trueno» de Bing, informó el WSJ. Otros postularon con sensatez que Microsoft podría aprender lecciones valiosas antes del lanzamiento de Bing a partir de las primeras pruebas públicas de ChatGPT. Si bien Microsoft ha visto a su socio volverse cada vez más popular por minutos, es fácil ver por qué la compañía ha puesto más urgencia en lanzar Bing con inteligencia artificial. El interés del público en la tecnología estaba ahí y Microsoft quería ser una parte más importante de la conversación.

Por supuesto, ChatGPT terminó ganando la carrera de la IA, atrayendo instantáneamente a la base de usuarios de más rápido crecimiento en la historia. Mientras tanto, «el nuevo Bing», lanzado un mes después, «todavía no se ha acercado al éxito de ChatGPT», informó el WSJ. Citando datos de la firma de análisis YipitData, el WSJ informó que ChatGPT «tiene casi el doble del número promedio de sesiones de búsqueda diarias que la búsqueda de Bing». YipitData informó que ChatGPT alcanzó los 200 millones de usuarios mensuales, mientras que Bing alcanzó los 100 millones de usuarios activos diarios en marzo.

ChatGPT y Bing fueron posteriormente criticados por lanzar chatbots culpables de inventar cosas, mentir y otros problemas que muchos usuarios no esperaban encontrar. OpenAI todavía está buscando formas de limitar las llamadas «alucinaciones» de los chatbots CNBC informó en mayo. En febrero, Microsoft tuvo que actualizar Bing para limitar las conversaciones largas hasta que la empresa encontrara una mejor solución. Sin embargo, incluso después de trabajar en el tema durante meses, El borde informó que, si bien Bing puede responder con menos arrebatos incontrolados durante conversaciones largas, «todavía tiende a equivocarse».

Nadella le dijo a Wired que Microsoft ha encontrado «cosas muy prácticas que reducen la alucinación» y que aparentemente sirven como un recurso provisional hasta que la tecnología mejore y surjan nuevas soluciones.

Nadella también dijo que a veces las «alucinaciones» son deseables, y cualquier solución para limitar las «alucinaciones» debe tener en cuenta que los usuarios también deben conservar la opción de usar chatbots de IA con fines creativos.

OpenAI no respondió de inmediato a la solicitud de comentarios de Ars. Un portavoz de Microsoft le dijo a Ars que otra razón por la que la compañía lanzó la nueva vista previa de Bing fue para responder a la mitad de todas las búsquedas web estándar que normalmente quedan sin respuesta. Microsoft también busca continuamente mejorar la autoridad y la credibilidad de los resultados web que respaldan su respuesta en modo chat, dijo el vocero, y está preparado para corregir rápidamente cualquier problema imprevisto que surja.

«Nuestro enfoque es hacer que las herramientas de inteligencia artificial estén disponibles para las personas responsables con salvaguardas para que podamos recibir comentarios, seguir aprendiendo y mejorar rápidamente estas herramientas como lo hicimos con Bing», dijo el portavoz de Microsoft a Ars.

La rivalidad va más allá de los chatbots

Cuando Wired le preguntó a Nadella por qué Microsoft invirtió en OpenAI cuando había estado invirtiendo en su propio gran modelo de lenguaje durante décadas, Nadella dijo que podía ver que «OpenAI perseguía lo mismo que» Microsoft. En lugar de «intentar entrenar cinco modelos fundamentales diferentes» al mismo tiempo, Nadella vio la oportunidad de asociarse con OpenAI para crear «una base» donde las dos empresas independientes pudieran «perseguir un objetivo, con disciplina».

«Dijimos: ‘Vamos tras esto y construyamos algo que realmente capture la imaginación del mundo'», dijo Nadella a Wired.

Pero el WSJ informó que la asociación es mucho más complicada que eso.

Surgió más tensión y confusión dentro del equipo interno de inteligencia artificial de Microsoft, que «se quejó de la disminución del gasto». La mayoría de los empleados se ven frenados por la falta de «acceso al funcionamiento interno» de la tecnología de OpenAI, lo que es particularmente doloroso para los empleados que intentan integrar esta tecnología en varios productos de Microsoft. También existe la extraña realidad de que los equipos de ventas de OpenAI y Microsoft «a veces cuentan con los mismos clientes». Gran parte de este «drama» equivale a las típicas luchas internas que ocurren cada vez que dos empresas se unen, informó el WSJ, pero no hay forma de ignorar el conflicto inherente con ambas partes tratando de mantener la independencia mientras obtienen las máximas ganancias de la venta de acceso a Internet. misma tecnología.

A pesar de estas tensiones, Nadella le dijo a Wired que OpenAI «apostó por» Microsoft y Microsoft «apostó por» OpenAI. Todavía prevé «una buena asociación comercial» entre las empresas independientes y consideró la inversión de Microsoft en OpenAI como «un acuerdo estable a largo plazo».

Cada vez más, parece que una forma de aliviar la tensión es acercar a las empresas en asociación. El WSJ señaló que Nadella anunció el mes pasado que el motor de búsqueda Bing pronto se integraría en ChatGPT, lo que dijo que era «solo el comienzo de lo que planeamos hacer con nuestros socios en OpenAI para llevar lo mejor de Bing a la experiencia de ChatGPT». » «.