(Πηγή: www.enikos.gr)
Eπιστήμονες δημιούργησαν «τοξική AI» που ανταμείβεται όταν «σκέφτεται» τις χειρότερες δυνατές ερωτήσεις – Ο λόγος
Το νεότερο εργαλείο στη μάχη για να αποτραπεί ένας παράγοντας τεχνητής νοημοσύνης (AI) από το να είναι επικίνδυνος, μεροληπτικός και τοξικός είναι μια άλλη AI που είναι η ίδια επικίνδυνη, μεροληπτική και τοξική, αναφέρουν οι επιστήμονες.
Η νέα εκπαιδευτική προσέγγιση, που βασίζεται στη μηχανική μάθηση, ονομάζεται curiosity-driven red teaming (CRT) και βασίζεται στη χρήση μιας τεχνητής νοημοσύνης για τη δημιουργία όλο και πιο επικίνδυνων και επιβλαβών προτροπών που θα μπορούσατε να ρωτήσετε ένα AI chatbot. Αυτές οι προτροπές χρησιμοποιούνται στη συνέχεια για τον εντοπισμό του τρόπου φιλτραρίσματος… Πηγή (Πηγή: www.enikos.gr)