L’IA générative rend les entreprises nerveux
Pourquoi plus d’entreprises que jamais cherchent-elles à puiser dans l’IA conversationnelle ou les LVM en premier lieu ?
Commençons par les médias. Sur tous les canaux imaginables, des médias d’information aux réseaux sociaux en passant par le divertissement, il est impossible de ne pas consommer d’histoires ou d’écouter des bavardages autour d’expériences comme ChatGPT. Et si tout le monde en parle, cela signifie que les hauts dirigeants des entreprises le sont aussi – et comment ils pourraient exploiter cette technologie émergente pour développer les affaires, quelle que soit l’entreprise.
De nombreuses entreprises, personnes ou départements expérimentent ou commencent indépendamment de petits projets pilotes. Les organisations reconnaissent qu’elles ont besoin d’un plan et de politiques pour éviter une approche disparate et non stratégique. Ils doivent tenir compte des avantages et des menaces et de la façon dont ils peuvent éliminer les obstacles et l’accès aux données cloisonnées pour faciliter la récupération transparente de l’information dans le cadre d’une approche sûre, sécurisée et stratégique.
Cependant, les défis de la mise en œuvre d’un LLM interne ou hybride sont importants. Le plus grand défi concerne les aspects techniques de la préparation des données. Les données ne sont généralement pas assez bien structurées pour être utiles pour LLM ou viennent dans des formats différents. S’ils résident dans une base de données, ils peuvent avoir des schémas différents sur lesquelles un LLM n’est pas formé et ne savent donc pas lire. En outre, les données peuvent être verrouillées dans une technologie exclusive, ce qui les empêche d’être accessibles à un LLM. Enfin, il y a souvent un manque général de métadonnées, de sorte que les sources de données sont mal documentées, ce qui rend difficile de déterminer ce qui fait autorité.
Dans une moindre mesure, l’énormité du déploiement de la technologie et son potentiel peuvent souvent être intimidants en raison des facteurs de risque impliqués – des données confidentielles qui sont divulguées hors de l’organisation. En outre, les entreprises peuvent trouver que le manque d’expertise interne est le plus grand obstacle à la création d’applications internes et à la compréhension de la préparation des données à utiliser par les nouvelles technologies.
L’IA générative commence par la bonne conception
Alors, comment une organisation commence-t-elle son voyage d’IA générative ? La tentation pour de nombreuses entreprises pourrait être d’utiliser une IA générative simple en utilisant un service 3rd party en visitant simplement un site Web pour obtenir une réponse générale à une question fondamentale.
Mais si vous devez décider de données exclusives – pour protéger les secrets commerciaux ou les métiers compétitifs, les dossiers confidentiels des clients ou les informations réglementées sécurisées et privées, vous avez besoin de votre propre LLM. Vous avez des options : il y a différents niveaux de maturité et de sophistication. Certaines MLM sont formées à l’aide de dizaines de milliers de paramètres pour une portée d’intérêt étroite. Certains sont formés avec des milliards de paramètres, par exemple, pour générer des images et considérer le contexte d’une question.
Les organisations qui commencent à utiliser l’IA générative de manière responsable veulent tirer parti des modèles pré-formés disponibles dans le commerce. Pourtant, ils ne veulent pas former ce LLM sur leurs données. Ils veulent que ce soit dans les deux sens : mettre en œuvre une architecture hybride qui leur donne accès au service précieux qu’ils n’ont pas à créer et leur permet de contrôler entièrement leurs données.
En fin de compte, les entreprises veulent mettre les informations les plus précieuses à la disposition de tous ceux qui en ont besoin, quand ils en ont besoin, où qu’ils résident. Ils veulent les moyens les plus efficaces disponibles pour tirer parti de ce qu’on appelle une hiérarchie de valeur dans la sphère des données, composée de :
- Données brutes (non structurées, non filtrées, non formatées)
- Informations (données traitées dans un format utilisable)
- Connaissances (ajouter un contexte pour des utilisations fonctionnelles)
- Sagesse (les idées glanées à partir de l’application réelle)
La bonne architecture et la définition de normes pour les formats de questions impliquent de séparer les données qui ne peuvent pas être exposées à LLM des types de données que vous envoyez et recevez de LLM.
L’utilisation du modèle de génération augmentée de récupération (RAG) peut garder ces choses séparées. La préparation des données pour l’IA générative et l’adaptation d’un LLM pour vos cas d’utilisation impliquent de connaître le domaine d’enquête ou d’application.
Vous devez concevoir et comprendre le domaine d’enquête – que voulez-vous que LLM vous aide à répondre ? Par exemple, poser des questions résumant les indicateurs critiques des opérations commerciales peut être votre domaine d’enquête. Pour ce cas d’utilisation, l’obtention de la réponse inclurait l’utilisation d’un ensemble spécifique de sources de données. Cela implique également d’utiliser ou d’accéder à une taxonomie ou à une terminologie que votre utilisateur final prévu comprendrait et utiliserait.
Vous devez concevoir et comprendre le domaine d’enquête – que voulez-vous que LLM vous aide à répondre ? Par exemple, poser des questions résumant les indicateurs critiques des opérations commerciales peut être votre domaine d’enquête. Pour ce cas d’utilisation, l’obtention de la réponse inclurait l’utilisation d’un ensemble spécifique de sources de données. Cela implique également d’utiliser ou d’accéder à une taxonomie ou à une terminologie que votre utilisateur final prévu comprendrait et utiliserait. Un ingénieur, par exemple, aurait un lexique différent de celui d’un technicien de service sur le terrain, bien que les deux puissent être impliqués dans le même cas d’utilisation (comme l’infrastructure du bâtiment). La formation du modèle à la connaissance de la langue de l’entreprise et des différents utilisateurs finaux est d’une importance vitale.
De plus, si vous ne connaissez pas les questions que votre système posera dès le départ, vous ne pourrez pas tester efficacement la précision de vos modèles. La pré-définition de votre domaine d’enquête vous permettra de déterminer si vous obtenez les bonnes réponses ou la qualité des réponses de vos SMA.
Par exemple, vous pouvez créer un modèle qui donne une réponse « hallucination », qui implique une réponse incorrecte qui ne correspond pas aux faits ou aux informations fournis au modèle d’IA. Un autre exemple concerne la « paresse » de l’IA, qui provient d’un utilisateur final qui s’attend à une réponse robuste, mais qui obtient plutôt quelque chose de beaucoup moins suffisant, comme une réponse en deux mots.
Connaître les questions vous permet d’identifier les sources de données dont vous avez besoin pour obtenir les bonnes réponses et éviter les hallucinations d’IA, la paresse, etc. L’emplacement est une dimension cruciale des données qui offre une ingénierie intelligente en exploitant la géographie et l’emplacement de vos données en tant qu’unificateur d’autres types de données. Si vous avez un emplacement, vous pouvez créer des intégrations stratégiques qui rassemblent les données de plusieurs systèmes, y compris le client (CRM), la finance (ERP), l’actif (EAM), etc., pour rendre vos réponses plus robustes.
Les entreprises bénéficient de l’établissement de normes pour les formats de questions ou les invites qui exploitent l’aspect de localisation de leurs données commerciales à l’aide de la technologie géospatiale combinée à l’IA générative. Cette solution combinée garantit la précision, l’adaptabilité et l’utilité des réponses LLM. Il crée les structures de réponse correctes, y compris où trouver les données.
Par exemple, une application OT peut surveiller les données sur une ligne de transmission représentée comme une ligne droite, mais cette ligne couvre de nombreuses communautés différentes, des fermes aux usines en passant par les centres urbains. Avec un processus connu sous le nom d’intégration vectorielle, l’IA peut combiner les attributs physiques, l’état opérationnel, la géométrie et le contexte fonctionnel de l’actif pour empaqueter tout le contenu pertinent pour effectuer un certain nombre de fonctions. Les schémas SCADA à eux seuls ne par répondent pas à ce niveau de détail.
Votre partenaire d’IA générative
TRC possède l’expertise technique et l’expérience du monde réel pour aider votre organisation à déployer avec succès l’IA générative dans votre organisation. TRC a travaillé avec plusieurs clients dans le monde entier pour créer la bonne architecture, les bonnes intégrations, les modèles et les invites pour assurer la sécurité, l’accessibilité, l’adaptabilité, etc. Nos scientifiques des données, concepteurs, développeurs, chefs de projet et experts de l’industrie apportent des connaissances et des compétences approfondies fondées sur des déploiements réussis. TRC Companies dispose de l’expertise supplémentaire en matière d’investissement et d’ingénierie pour combler le fossé entre l’IA, l’apprentissage automatique, le cloud et d’autres innovations et vos objectifs commerciaux.
Le travail de TRC avec des clients aux États-Unis et dans le monde entier commence par « s’approprier la mission client ». En adhérant à un modèle d’écoute d’abord qui comprend la communication et la collaboration entre les stylos à toutes les étapes du cycle de vie du projet, TRC travaille avec diligence pour s’assurer que les projets d’IA respectent les délais et le budget.
Avec TRC comme partenaire d’IA de confiance, vous gagnez :
- Connaissance approfondie de l’IA et expérience de travail avec les clients
- Expertise technique en LLM et techniques d’IA générative
- Une expérience éprouvée dans la fourniture de solutions réussies
- Dédié à la communication ouverte et à la propriété
- Solutions, packages et modèles qui accélèrent le délai de réalisation de la valeur
Commencez vos conversations sur l’IA dès aujourd’hui
L’IA générative semble être une aubaine pour la société, et les entreprises commencent tout juste à en profiter au niveau de l’entreprise. En utilisant des modèles architecturaux modernes, vous pouvez tirer parti de cette innovation de pointe pour démolir les silos de données afin de fournir des réponses critiques et des informations inégalées dans toute l’organisation, en posant simplement une question.