Microsoft Build: nog meer AI of nu echt slimmere applicaties?

Vorige week vond Microsoft Build plaats, een van de ‘grote drie’ Microsoft evenementen, jaren terug vooral gericht op developers, maar met de opkomst van low-code is dat een bewegende schaal en soms wel fuzzy onderscheid geworden. Was Build weer een grote marketingshow met veel nieuws of was er tussen alle aankondigingen nog iets te ontdekken wat een andere richting in zet? BusinessBase heeft afgelopen week het event gevolgd, alle aankondigingen meegekregen en beoordeeld. In dit blog delen we de meest opvallende en interessante onderwerpen.

Artificial Intelligence: door de bomen het AI-bos nog zien

Zoals eigenlijk wel te verwachten viel, gingen vrijwel alle sessies over AI of waren deze gerelateerd aan AI. Weliswaar geen woord over de ChatGPT en Sky- aankondiging van OpenAI (de AI stem die wel erg op Scarlett Johanson leek), maar de aankondiging van het betreffende AI Model kwam wel diverse keren terug. Naast de OpenAI modellen ondersteunt Microsoft momenteel een breed scala aan AI en Large Language Modellen (kortweg LLM), elk met hun specifieke toepassing. Daarnaast werkt het nauw samen met diverse andere leveranciers en partners, waardoor er een nog breder palet aan modellen beschikbaar is. Dat brengt uiteraard ook de nodige uitdagingen met zich mee, want welk model gebruik je nu voor welke use case? Daar zijn inmiddels uitgebreide guidelines voor beschikbaar, maar belangrijker is nog dat er tooling beschikbaar is om deze modellen te vergelijken op resultaat en effectiviteit zodat je betere en gefundeerde keuzes kunt maken, passend bij de use en business case.

Copilot Stack: het raamwerk voor succesvolle AI

Microsoft investeert dus erg veel in AI, maar niet alleen in AI op zich. We kunnen veel van de aankondigingen wel plotten op wat Microsoft de AI Stack noemt, oftewel de lagen waar je invulling aan moet geven om AI op een goede, verantwoorde en veilige manier toe te passen. In onderstaand plaatje zijn de verschillende onderdelen te zien.  We zullen een aantal van deze componenten en de ontwikkelingen daarin verder benoemen. Belangrijk is om telkens te onthouden dat AI op zichzelf niet werkt en dat de andere componenten de basis zijn voor AI.

Copilot: van chat naar agent

Tot op heden hebben we Copilots in diverse vormen vooral gezien als een soort van chatbot, waar we vragen aan moeten stellen of specifieke opdrachten aan moeten geven. Met de aankondigingen tijdens Build is er wel een verschuiving zichtbaar. Copilots worden steeds meer zogenaamde agents, die continu beschikbaar en actief zijn en straks ook op basis van triggers of events actief zullen worden. Ze kunnen dan steeds meer onafhankelijk van de gebruiker gaan opereren om taken voor die zelfde gebruiker uit te voeren. Ten slotte kan dat ook betekenen dat een Copilot niet alleen meer namens een gebruiken kan opereren, maar ook namens een Team of organisatie. Een van de getoonde voorbeelden betrof bijvoorbeeld een IT Helpdesk Copilot die op in dienst komen van een nieuwe collega actief werd om een keuze te maken voor een device. Een ander voorbeeld is de Team Copilot die tijdens een meeting automatisch notities gaat maken, daar taken uit haalt en vast legt voor de deelnemers. Met alle extra mogelijkheden op het gebied van uitbreiden kan kennis uit diverse bronnen direct gebruikt worden en kunnen via het Connector framework (wat we al kennen uit het Power Platform) ongekend veel acties ontsloten worden waarbij de Copilot nog meer werk uit handen van de gebruiker kan nemen.

Met de nieuwe mogelijkheden die de achterliggende LLM modellen gaan bieden worden Copilots de komende tijd ook beter in het zelf oppakken en herkennen van tekst in een gesprek. Hiermee verschuift het bouwen van een Copilot van nadenken over de hele conversatie naar nadenken over welke prompts gebruikt gaan worden, het geven van de juiste instructies rondom bijvoorbeeld tone-of-voice, het inregelen van de juiste kennis en acties met de juiste omschrijvingen (zodat de Copilot weet wat te doen) en het monitoren en valideren van de Copilot op correct handelen.

Data: de voedingsbodem voor AI

Alles wat de Copilots doen is uiteindelijk gebaseerd op data. De te configureren kennis is data, in al zijn verschijningsvormen. Het kan dan gaan om data uit een applicatie of database, zoals Dataverse, om documenten op Sharepoint of kennis op Confluence. Zorgen dat data op orde is, is daarom zeer zeker van belang. Daarnaast zet Microsoft sterk in op Fabric, het SaaS dataplatform dat ze in 2023 gelanceerd hebben en waarop de ontwikkelingen erg hard gaan. De mogelijkheden met het oog op data in een lakehouse en/of warehouse waren er al, maar met de introductie van Real-Time intelligence kan nu ook data die veel frequenter en sneller tot stand komt gebruikt worden. Een meer bekende toepassing is dan uiteraard IoT-data, maar hierbij moet ook gedacht worden aan data over voorraden en verkopen in winkels, waardoor het mogelijk wordt om sneller inzicht te krijgen in verkopen en voorraadwijzigingen waarop acties nodig zijn en die acties ook daadwerkelijke te starten. Andere belangrijke uitbreidingen op Fabric zijn het kunnen ontsluiten van data naar andere systemen en applicaties. Door de toevoeging van de GraphQL API wordt het mogelijk om inzichten uit Fabric via een API eenvoudig te ontsluiten op bijvoorbeeld een portal of website. Heb je bijvoorbeeld een use case waarbij je data wilt ontsluiten naar je klanten zonder gebruik te maken van Power BI dashboards biedt dit extra mogelijkheden. Ten slotte is er de toevoeging van AI Skills. AI Skills zijn inzichten op data in Fabric die ontsloten kunnen worden in bijvoorbeeld Copilot Studio waardoor deze inzichten weer gebruikt kunnen worden in Copilots.

Applicaties & Low Code: toepasbaar maken van AI

In de laatste release wave  zijn er diverse nieuwe functionaliteiten toegevoegd die de eindgebruikers van onder andere Dynamics productiever moeten maken. Build is echter een evenement gericht op developers, dus logischerwijs zijn de nieuwtjes daar vooral gericht op het toepassen van AI in het ontwikkelproces. Een mooie toevoeging is dat het in Dataverse via Copilot mogelijk visueel tabellen aan te maken in een zogenaam ERD-diagram. De ontwikkelaar geeft aan welke tabellen welke velden en relaties nodig en deze worden visueel weergegeven. Ben je daar tevreden over, dan zal Copilot alle tabellen in een keer aanmaken.

Binnen Power Automate wordt AI Flows toegevoegd! Ai Flows maakt het mogelijk om op basis van input heel resultaatgericht de uitkomst te bepalen. Een van de getoonde demo’s liet zien hoe een aanvraag voor een annulering ontvangen via een e-mail werd getoetst aan onder andere de algemene voorwaarden waarna de AI Flow een indicatie geeft van of de annulering toegestaan is. En dat allemaal zonder uitgebreide en complexe Flows waarin je elke conditie en voorwaarde moest opnemen. Ten slotte is de AI recorder van Desktop Flows vermeldenswaardig. Waar je voorheen elke stap moest aangeven, zal de nieuwe recorder zelf de stappen bijhouden en vertalen naar een desktop flow. Voor de ontwikkelaar scheelt dat veel werk in het bouwen van een dergelijke flow.

Security & Safety: veilig en betrouwbaar

Rondom AI leven ook nog diverse zorgen: gaat het banen laten verdwijnen? Zijn de uitkomsten wel betrouwbaar? Veilig, goed en betrouwbaar gebruik van AI is daarom van groot belang. Microsoft erkent deze zorgen al jaren en investeert hier dus ook in, zowel op het gebied van Responsible AI als op het beschikbaar stellen van tools en middelen om je infrastructuur, applicaties en data te beveiligen. Microsoft benadrukt hierin wel dat partners en klanten hier zelf een grote verantwoordelijkheid in dragen, de middelen worden beschikbaar gesteld, maar moeten wel goed gebruikt worden en vormt de basis voor alles wat er aan activiteiten binnen de totale Microsoft Cloud plaats vindt.

Ook rondom Copilot en AI worden de mogelijkheden om veiligheid in te regelen uitgebreider, denk daarbij aan loggen van activiteit om zo te kunnen monitoren hoe en op welke wijze Copilot gebruikt wordt. Maar ook aan Prompt Shields, waarbij het mogelijk wordt om verschillende niveau’s van aanvallen via Prompts te herkennen. Voorbeelden daarvan zijn prompt die proberen AI de ingestelde regels en instructies te laten vergeten of prompts die AI als een andere persona te laten opereren, beiden met als doel om AI tot reacties en antwoorden te laten komen die niet overeenkomen met de normen en instructies die zijn ingeregeld.

AI is de toekomst?

Met alle introducties die al eerder zijn doorgevoerd in combinatie met de aankondigingen van deze editie van Build, wordt de richting die Microsoft is ingeslagen nog duidelijker. Er komen meer en meer specifieke mogelijkheden en modellen van AI beschikbaar. Maar ook in de manier waarop AI wordt ontsloten komen meer mogelijkheden. In de combinatie van bijvoorbeeld Fabric en Copilot Studio kunnen zogenaamde agents gerealiseerd worden die de eindgebruiker proactief informeren en voorzien van de juiste acties, puur op basis van de aanwezige kennis en data. Uiteindelijk gaat daarmee de manier waarop we applicaties ontsluiten anders en zal dit veel meer pro actief en actiegedreven zijn in plaats reactief en in de vorm van formulieren over data. Daarmee komen we echt steeds dichter op het daadwerkelijke realiseren van de acties op basis van data.