Η Holistic παρουσίασε μια βιβλιοθήκη ανοιχτού κώδικα για να βοηθήσει στην αντιμετώπιση των κινδύνων ανάπτυξης της τεχνητής νοημοσύνης και στη δημιουργία δικαιότερων και πιο υπεύθυνων συστημάτων.
Η βιβλιοθήκη, που ονομάζεται Holistic AI OSL, φτάνει σε μια κρίσιμη στιγμή που οι οργανισμοί αναπτύσσουν όλο και περισσότερο συστήματα AI σε ευαίσθητους τομείς, όπως η πρόσληψη, η υγειονομική περίθαλψη και οι χρηματοοικονομικές υπηρεσίες. Πρόσφατες μελέτες υποδεικνύουν ότι το 65% των ερευνητών και προγραμματιστών τεχνητής νοημοσύνης εξακολουθούν να θεωρούν το bias (συστηματικό σφάλμα που εμφανίζεται στο ίδιο το μοντέλο λόγω εσφαλμένων υποθέσεων στη διαδικασία του machine learning) μια σημαντική πρόκληση στη δουλειά τους.
Το Holistic AI OSL αντιμετωπίζει πέντε βασικούς τεχνικούς κινδύνους που σχετίζονται με την ανάπτυξη του AI μέσω μιας ολοκληρωμένης σειράς εργαλείων. Οι δυνατότητες μετριασμού (mitigation) του bias της βιβλιοθήκης είναι ιδιαίτερα αξιοσημείωτες, προσφέροντας πάνω από 35 bias μετρήσεις σε πέντε εργασίες machine learning και 30 ξεχωριστές στρατηγικές μετριασμού.
Πέρα από τον εντοπισμό και την εξάλειψη των bias, η εργαλειοθήκη παρέχει ισχυρές δυνατότητες για επεξήγηση (explainability) του μοντέλου, βοηθώντας τους προγραμματιστές να κατανοήσουν και να επικοινωνήσουν πώς τα συστήματα τεχνητής νοημοσύνης τους καταλήγουν σε αποφάσεις. Η βιβλιοθήκη παλεύει επίσης για την ευρωστία-ποιότητα (robustness) του συστήματος, διασφαλίζοντας σταθερή απόδοση ακόμα και όταν αντιμετωπίζετε adcersarial attacks ή παραλλαγές των δεδομένων (data variations).
«Η νέα μας βιβλιοθήκη εξοπλίζει τους οργανισμούς με εργαλεία για όλους τους κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της επεξήγησης (explainability), της ευρωστίας (robustness) και τοτ bias», εξηγεί ο Adriano Koshiyama, Συνδιευθύνων Σύμβουλος της Holistic AI. «Υποστηρίζει τη μέτρηση, την αναφορά και τον μετριασμό σε κάθε στάδιο του κύκλου ζωής της τεχνητής νοημοσύνης, προσφέροντας μία από τις πιο προηγμένες λύσεις για τη βελτίωση της ποιότητας στις εφαρμογές τεχνητής νοημοσύνης σήμερα».
Η βιβλιοθήκη δίνει σημαντική έμφαση στην ασφάλεια, ενσωματώνοντας χαρακτηριστικά διατήρησης της ιδιωτικότητας, όπως τεχνικές ανωνυμοποίησης και άμυνες έναντι inference attacks. Επιπλέον, βοηθά τους προγραμματιστές να εξισορροπήσουν τις συχνά ανταγωνιστικές απαιτήσεις της ακρίβειας, της δικαιοσύνης, του robustness και της ασφάλειας μέσω περιεκτικών σεναρίων δοκιμών στον πραγματικό κόσμο.
Ο παγκόσμιος ασφαλιστικός γίγαντας MAPFRE, ο οποίος δραστηριοποιείται σε σχεδόν 40 χώρες και εξυπηρετεί πάνω από 30 εκατομμύρια πελάτες, έχει ήδη ενσωματώσει τη βιβλιοθήκη στη διαδικασία ανάπτυξης του AI.
Ο César Ortega, ειδικός επιστήμονας δεδομένων στο MAPFRE, σχολίασε: «Αυτό που ξεχωρίζει αυτή τη βιβλιοθήκη είναι το βάθος της, καθώς δεν αφορά μόνο τον εντοπισμό των κινδύνων της τεχνητής νοημοσύνης αλλά την ενεργή αντιμετώπισή τους με αποδεδειγμένες, έτοιμες για τον κλάδο τεχνικές μετριασμού, που την καθιστούν ουσιαστικό μέρος κάθε εργαλειοθήκης ανάπτυξης τεχνητής νοημοσύνης».
Πηγή: developer-tech.com
