Σαφές μήνυμα απέναντι σε μια από τις πιο αμφιλεγόμενες χρήσεις της τεχνητής νοημοσύνης στέλνει το Ευρωπαϊκό Κοινοβούλιο, προτείνοντας την απαγόρευση εφαρμογών που δημιουργούν ψεύτικες γυμνές εικόνες πραγματικών ανθρώπων χωρίς τη συγκατάθεσή τους, στο πλαίσιο της αναθεώρησης του AI Act.
Στο στόχαστρο των ευρωβουλευτών μπαίνουν τα λεγόμενα «nudifiers», εφαρμογές τεχνητής νοημοσύνης που μπορούν να μετατρέψουν μια απλή φωτογραφία σε ψεύτικη γυμνή απεικόνιση.
Πρόκειται για μια τεχνολογία που έχει ήδη προκαλέσει έντονες αντιδράσεις διεθνώς, καθώς συνδέεται με φαινόμενα ψηφιακής κακοποίησης, παρενόχλησης και διασποράς παραποιημένου υλικού.
Απαγόρευση με στόχο την προστασία της ιδιωτικότητας
Η θέση του Ευρωπαϊκού Κοινοβουλίου είναι ξεκάθαρη: τέτοιου είδους εφαρμογές θα πρέπει να απαγορευτούν όταν χρησιμοποιούνται για τη δημιουργία ή αλλοίωση εικόνων σεξουαλικού περιεχομένου που αφορούν πραγματικά, αναγνωρίσιμα πρόσωπα χωρίς τη συγκατάθεσή τους.
Με άλλα λόγια, η τεχνητή νοημοσύνη δεν μπορεί να λειτουργεί ως εργαλείο «ψηφιακής έκθεσης» και παραβίασης της ιδιωτικής ζωής.
Εξαιρέσεις για «ασφαλή» συστήματα ΤΝ
Ωστόσο, οι ευρωβουλευτές αφήνουν ένα περιθώριο για την ίδια την τεχνολογία: η απαγόρευση δεν θα ισχύει για συστήματα που ενσωματώνουν αποτελεσματικές δικλίδες ασφαλείας, οι οποίες αποτρέπουν στην πράξη τη δημιουργία τέτοιου περιεχομένου.
Η στόχευση, δηλαδή, δεν είναι η τεχνητή νοημοσύνη ως εργαλείο, αλλά η καταχρηστική της χρήση.
Η συγκεκριμένη πρόβλεψη εντάσσεται σε ένα ευρύτερο πακέτο αλλαγών για την απλούστευση και εφαρμογή του κανονισμού για την τεχνητή νοημοσύνη, με στόχο –όπως υποστηρίζουν οι ευρωβουλευτές– την καλύτερη προστασία των πολιτών, χωρίς να ανακοπεί η καινοτομία.
Μετά την έγκριση της θέσης του Ευρωπαϊκού Κοινοβουλίου, ξεκινά πλέον η διαδικασία διαπραγματεύσεων με τα κράτη-μέλη για την τελική μορφή του κανονισμού.
Το βέβαιο, πάντως, είναι ότι η Ευρώπη επιχειρεί να χαράξει μια «κόκκινη γραμμή»: η τεχνητή νοημοσύνη δεν μπορεί να χρησιμοποιείται για την παραγωγή ψεύτικης, προσβλητικής εικόνας σε βάρος πραγματικών ανθρώπων.
