Σε νέα δοκιμή, οι AI mortgage assistants έδωσαν λάθος απαντήσεις σε σχεδόν 1 στις 4 περιπτώσεις. Οι ερευνητές ρώτησαν τρία από τα κορυφαία μοντέλα γενικής χρήσης ποια ποσά σε ένα τραπεζικό statement «could be of foreign origin».
Πώς άλλαξαν τα ποσοστά ανάλογα με το όνομα;
Όταν οι συναλλαγές συνδέονταν με αγγλικά ονόματα, επισημάνθηκαν ως ύποπτες για ξένη προέλευση στο 13,3% των περιπτώσεων. Όταν η κατάθεση προερχόταν από μη αγγλικό όνομα, το ποσοστό ανέβηκε στο 77%.
Ο Matthew Toles, υποψήφιος διδάκτορας στο Columbia University και συν-συγγραφέας της μελέτης «MortarBench: Evaluating Mortgage Loan Origination Agents», είπε στο Realtor.com®: «That's not how America works». Πρόσθεσε: «You aren't determined whether you're foreign-based on how your name sounds».
Γιατί έχει σημασία για τους δανειστές;
Παρά τις συνεχιζόμενες ανησυχίες για την ικανότητα της AI να δίνει ακριβείς και αμερόληπτες πληροφορίες, οι ενυπόθηκοι δανειστές κινούνται προς την υιοθέτησή της.
- Πάνω από 80% εξέταζαν την τεχνολογία έως τον Ιούνιο.
- Το στοιχείο αυτό προκύπτει από έρευνα της The Mortgage Collaborat.
- Η νέα δοκιμή έθεσε στο επίκεντρο την ακρίβεια και τη μεροληψία των απαντήσεων.
Η μελέτη συνδέεται με τη λειτουργία των mortgage loan origination agents και με τον τρόπο που αξιολογούνται οι καταθέσεις σε τραπεζικά statements.
Τι δείχνουν τα ευρήματα της μελέτης;
Τα στοιχεία δείχνουν μεγάλη απόκλιση στην αντιμετώπιση των ονομάτων, με σαφώς διαφορετικά ποσοστά ανάμεσα σε αγγλικά και μη αγγλικά ονόματα. Η ίδια η έρευνα καταγράφει ότι οι βοηθοί AI απάντησαν λάθος σε σχεδόν μία στις τέσσερις απαντήσεις.
Οι ερευνητές έθεσαν το ζήτημα στο πλαίσιο της χρήσης της τεχνολογίας στον κλάδο των στεγαστικών δανείων, όπου οι δανειστές την εξετάζουν ήδη σε μεγάλο ποσοστό.