A Quality Model for Trustworthy AI Systems: Data, Code and Models
WOE 11:45 - 12:15
Zaal 3
Building production-ready AI system entails much more than just training a high-performance machine learning model. A production-ready AI system needs to be trustworthy, i.e. of high quality. But how to determine this in practice? For traditional software, ISO25000 and its predecessors have since long time been used to define and measure software product quality characteristics. This talk introduces a quality model for AI systems, based on ISO25000. This quality model defines 9 characteristics of a trustworthy AI system, that are not represented in the software product quality characteristics of ISO25000. To illustrate our quality model, we apply it to a real-life case study: a deep learning platform for monitoring wildflowers. We show how the quality model can be used as a structured dictionary to define quality requirements for both data, model and software. Ongoing work is to extend the quality model with metrics, tools and best practices to build a quality toolbox for engineering trustworthy AI systems.
-
Thema
Artificial Intelligence
Bier dat is gebrouwen op basis van AI of AI inzetten voor het identificeren van dieren. Het zijn slechts twee voorbeelden van waartoe AI in staat is. Aan de basis van AI staat uiteraard een enorme hoeveelheid data. Met behulp van een goede IT-infrastructuur en algoritmes is daarmee tot kunstmatige intelligentie te komen die beslissingen neemt. Op e-commerce vlak zijn er ook veel voorbeelden, waarbij algoritmes in staat zijn om patronen te herkennen en op basis daarvan suggesties te doen of content aan te passen aan bezoekers. Daarmee zijn onder andere verkopen te stimuleren. Feilloos is AI nog niet, maar de ontwikkeling gaat zo hard dat bijblijven noodzakelijk is. Dat kan op de Big Data Expo uitstekend, bezoek een van de vele presentaties en laat u bijpraten!
