ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: Διδάσκεται «να χειραγωγεί και να εξαπατά» τους ανθρώπους
Βρισκόμαστε άραγε μία ανάσα από το να γίνουμε υποχείρια της τεχνητής νοημοσύνης;
Για κάποιους μπορεί να μοιάζει υπερβολή, ωστόσο φαίνεται να υπάρχουν λόγοι ανησυχίας, σύμφωνα με νέα μελέτη.
Όπως συμβαίνει με κάθε μεγάλη τεχνολογική αλλαγή, πολλοί άνθρωποι αναρωτιούνται αν η τεχνολογία κινείται γρηγορότερα από ό,τι μπορούμε να την ελέγξουμε.
Αυτό μάλλον θα συμβεί με την τεχνητή νοημοσύνη η οποία είναι σε θέση να μαθαίνει και να εφαρμόζει τις γνώσεις της πολύ γρήγορα.
Χειραγώγηση, συκοφαντία και εξαπάτηση
Οι ερευνητές της μελέτης, η οποία δημοσιεύθηκε στο περιοδικό Patterns, ανέφεραν ότι τα συστήματα τεχνητής νοημοσύνης έχουν ήδη δείξει την ικανότητα να εξαπατούν τους ανθρώπους. Έχουν χρησιμοποιήσει τεχνικές χειραγώγησης, συκοφαντίας και εξαπάτησης στις προσπάθειές τους και γίνονται όλο και καλύτερες.
«Τα συστήματα τεχνητής νοημοσύνης είναι ήδη ικανά να εξαπατούν τους ανθρώπους», γράφουν οι ερευνητές στη μελέτη. «Μεγάλα γλωσσικά μοντέλα και άλλα συστήματα έχουν ήδη μάθει, από την εκπαίδευσή τους, την ικανότητα να εξαπατούν μέσω τεχνικών όπως η χειραγώγηση, η συκοφαντία και η εξαπάτηση του τεστ ασφαλείας», εξηγούν.
Δείτε επίσης: META MAGAZINO: Διαβάστε το νέο τεύχος
Εάν αυτό σας φαίνεται αρκετά αγχωτικό, υπάρχουν ακόμη μεγαλύτερα ζητήματα βραχυπρόθεσμα και μακροπρόθεσμα.
«Οι αυξανόμενες ικανότητες της τεχνητής νοημοσύνης στην παραπλάνηση εγκυμονούν σοβαρούς κινδύνους, που κυμαίνονται από βραχυπρόθεσμους κινδύνους, όπως η απάτη και η αλλοίωση των εκλογών, μέχρι μακροπρόθεσμους κινδύνους, όπως η απώλεια του ελέγχου των συστημάτων τεχνητής νοημοσύνης», επισημαίνουν οι ερευνητές.
«Χρειάζονται προληπτικές ενέργειες, όπως ρυθμιστικά πλαίσια για την αξιολόγηση των κινδύνων εξαπάτησης της τεχνητής νοημοσύνης, νόμοι που απαιτούν διαφάνεια σχετικά με τις αλληλεπιδράσεις της και περαιτέρω έρευνα για την ανίχνευση και την πρόληψη της εξαπάτησης της.
»Η αντιμετώπιση του προβλήματος είναι ζωτικής σημασίας για να διασφαλιστεί ότι η τεχνητή νοημοσύνη θα λειτουργεί ως μια ευεργετική τεχνολογία που θα ενισχύει και όχι θα αποσταθεροποιεί την ανθρώπινη γνώση, τον λόγο και τους θεσμούς».
Όσοι εργάζονται στον κλάδο της τεχνητής νοημοσύνης έχουν επίσης εκδώσει προειδοποιήσεις σχετικά με την ανάπτυξη και την εφαρμογή της τεχνολογίας.
- Για να μαθαίνετε πάντα όλα τα νέα, κάντε like στη σελίδα μας olanea.gr
