7.1 C
New York
martes, marzo 5, 2024
spot_img

Dynatrace lanza observabilidad de IA para modelos de lenguaje grandes e IA generativa

Permite a las organizaciones adoptar la IA con confianza al proporcionar información incomparable sobre todas las capas de aplicaciones impulsadas por IA, lo que ayuda a garantizar la seguridad, la confiabilidad, el rendimiento y la rentabilidad.

Dynatrace, líder en observabilidad y seguridad unificadas, anunció hoy que ha ampliado su plataforma de análisis y automatización para proporcionar observabilidad y seguridad integrales para modelos de lenguaje grandes (LLM). y aplicaciones generativas impulsadas por IA. Esta mejora de la plataforma Dynatrace® permite a las organizaciones de todo el mundo adoptar la IA generativa con confianza y de forma rentable como parte de su enfoque en aumentar la innovación, la productividad y los ingresos.

Dynatrace® AI Observability es una solución integral. Cubre la pila de IA de un extremo a otro , incluida la infraestructura, como las GPU Nvidia®, modelos fundamentales, como GPT4, cachés semánticos y bases de datos vectoriales, como Weaviate, y marcos de orquestación, como LangChain. También es compatible con las principales plataformas para crear, entrenar y entregar modelos de IA, incluidos Microsoft® Azure OpenAI Service, Amazon® SageMaker y Google® AI Platform.

Dynatrace AI Observability aprovecha la IA Davis® de la plataforma y otras tecnologías centrales para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA. Como resultado, las organizaciones pueden brindar excelentes experiencias de usuario al tiempo que identifican automáticamente los cuellos de botella en el rendimiento y las causas fundamentales.

Dynatrace AI Observability con Davis AI también les ayuda a cumplir con las regulaciones de privacidad y seguridad y los estándares de gobernanza al rastrear con precisión los orígenes de los resultados creados por sus aplicaciones. Además, les ayuda a pronosticar y controlar los costos al monitorear su consumo de tokens, que son las unidades básicas que utilizan los modelos generativos de IA para procesar consultas.

“La IA generativa y predictiva desbloqueará nuevas posibilidades para nuestro negocio con nuestros servicios ML y LLM, pero para implementarlos con éxito, debemos asegurarnos de que nuestros servicios que respaldan estas cargas de trabajo críticas sean confiables y funcionen bien”, dijo Ryan Berry, vicepresidente senior de ingeniería y Arquitectura en OneStream.

“Por eso confiamos en Dynatrace, líder en inteligencia artificial y observabilidad. Nuestros equipos utilizan Dynatrace para crear y optimizar aplicaciones de IA generativa que funcionan bien y son rentables para administrar e implementar a escala”.

Gartner® afirma: “Para 2028, la adopción de la IA culminará con más del 50 % de los recursos informáticos en la nube dedicados a cargas de trabajo de IA, frente a menos del 10 % en 2023“, 

Este crecimiento refleja en parte el creciente interés de las organizaciones en la IA generativa para mejorar la eficiencia y la productividad, impulsar la automatización y fomentar la innovación. A pesar de este impulso, muchas organizaciones están preocupadas por los costos asociados con los servicios generativos impulsados ​​por IA. Estos pueden ser muchas veces más caros que los servicios tradicionales en la nube y son difíciles de pronosticar porque se basan en el consumo de tokens de IA generativos por parte de aplicaciones que aún no están en producción. Al mismo tiempo, los gobiernos de todo el mundo están estableciendo regulaciones centradas en el uso de tecnologías de IA de manera responsable y ética y de conformidad con las leyes aplicables.

Las organizaciones no pueden darse el lujo de ignorar el potencial de la IA generativa. Sin embargo, necesitan una observabilidad integral de la IA para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, “alucinaciones” de IA y malas experiencias de usuario.

“La IA generativa es la nueva frontera de la transformación digital”, afirmó Bernd Greifeneder, director de tecnología de Dynatrace.

“Esta tecnología permite a las organizaciones crear soluciones innovadoras que aumentan la productividad, la rentabilidad y la competitividad. Si bien es transformador, también plantea nuevos desafíos para la seguridad, la transparencia, la confiabilidad, la experiencia y la gestión de costos. Las organizaciones necesitan una observabilidad de la IA que cubra todos los aspectos de sus soluciones de IA generativa para superar estos desafíos. Dynatrace está ampliando su observabilidad y liderazgo en IA para satisfacer esta necesidad, ayudando a los clientes a adoptar la IA con confianza y seguridad con conocimientos incomparables sobre sus aplicaciones generativas impulsadas por IA”.

“La transformación impulsada por la IA es un motor clave de productividad y competitividad para las organizaciones de todo el mundo”, afirmó Ali Dalloul, vicepresidente de IA de Microsoft.

“El servicio Microsoft Azure OpenAI es una sólida solución de IA generativa para empresas y entidades del sector público de todo el mundo. Nos complace asociarnos con Dynatrace, líder en observabilidad impulsada por IA, para capacitar a nuestros clientes compartidos, los equipos que impulsan la innovación en las organizaciones más grandes del mundo, para crear servicios generativos basados ​​en IA utilizando Azure Open AI Service y Dynatrace AI Observability. Esta poderosa combinación ayuda a garantizar que estos servicios alcancen los más altos estándares de seguridad, confiabilidad y rendimiento, al tiempo que permite a los equipos que los administran controlar los costos”.

Acerca de Dynatrace

Dynatrace existe para hacer que el software del mundo funcione perfectamente. Nuestra plataforma unificada combina una observabilidad amplia y profunda y la seguridad de las aplicaciones en tiempo de ejecución continuo con la IA hipermodal de Davis® para brindar respuestas y automatización inteligente a partir de datos a una escala enorme.

Esto permite a los innovadores modernizar y automatizar las operaciones en la nube, entregar software de forma más rápida y segura y garantizar experiencias digitales impecables. Por eso las organizaciones más grandes del mundo confían en la plataforma Dynatrace® para acelerar la transformación digital.

spot_img
spot_img
spot_img