Τα τελευταία τρία χρόνια, η παραγωγική τεχνητή νοημοσύνη (AI) έχει ασκήσει βαθύτατη επίδραση στην κοινωνία. Ιδιαίτερα σημαντική υπήρξε η επίδρασή της στη γραπτή έκφραση των ανθρώπων.
Τα μεγάλα γλωσσικά μοντέλα που τροφοδοτούν εργαλεία AI όπως το ChatGPT εκπαιδεύονται σε τεράστιες ποσότητες ποικίλων κειμενικών δεδομένων και πλέον μπορούν να παράγουν σύνθετα και υψηλής ποιότητας κείμενα.
Το πιο κρίσιμο, όμως, είναι ότι η ευρεία χρήση εργαλείων AI έχει οδηγήσει στην υπερπαραγωγή του λεγόμενου «AI slop»: χαμηλής ποιότητας περιεχόμενο που παράγεται από AI με ελάχιστη ή και μηδενική ανθρώπινη προσπάθεια.
Πολλά έχουν ειπωθεί για το τι σημαίνει η γραφή με AI για την εκπαίδευση, την εργασία και τον πολιτισμό. Τι συμβαίνει όμως με την επιστήμη; Βελτιώνει η AI την ακαδημαϊκή γραφή ή απλώς παράγει «επιστημονικό AI slop»;
Σύμφωνα με νέα μελέτη ερευνητών από τα Πανεπιστήμια UC Berkeley και Cornell, που δημοσιεύθηκε στο περιοδικό Science, το slop φαίνεται να επικρατεί.
Η παραγωγική AI αυξάνει την ακαδημαϊκή παραγωγικότητα
Οι ερευνητές ανέλυσαν περιλήψεις από περισσότερα από ένα εκατομμύριο προδημοσιεύσεις (preprints), επιστημονικά άρθρα που είναι δημόσια διαθέσιμα αλλά δεν έχουν ακόμη υποβληθεί σε αξιολόγηση από ομότιμους, που δημοσιεύθηκαν μεταξύ 2018 και 2024.
Εξέτασαν αν η χρήση AI συνδέεται με αυξημένη ακαδημαϊκή παραγωγικότητα, ποιότητα χειρογράφων και χρήση πιο ποικίλης βιβλιογραφίας.
Ο αριθμός των preprints που παρήγαγε ένας συγγραφέας χρησιμοποιήθηκε ως δείκτης παραγωγικότητας, ενώ η τελική δημοσίευση σε επιστημονικό περιοδικό ως δείκτης ποιότητας.
Η μελέτη έδειξε ότι όταν ένας συγγραφέας άρχιζε να χρησιμοποιεί AI, ο αριθμός των preprints που παρήγαγε αυξανόταν εντυπωσιακά. Ανάλογα με την πλατφόρμα, ο συνολικός αριθμός άρθρων που δημοσιεύονταν μηνιαίως αυξήθηκε από 36,2% έως 59,8%.
Η αύξηση ήταν μεγαλύτερη στους μη φυσικούς ομιλητές της αγγλικής γλώσσας, ιδιαίτερα στους Ασιάτες συγγραφείς, όπου κυμάνθηκε από 43% έως 89,3%. Αντίθετα, για συγγραφείς από αγγλόφωνα ιδρύματα και με «καυκάσια» ονόματα, η αύξηση ήταν πιο περιορισμένη, από 23,7% έως 46,2%.
Τα ευρήματα υποδηλώνουν ότι η AI χρησιμοποιήθηκε συχνά από μη φυσικούς ομιλητές για τη βελτίωση της αγγλικής γραφής τους.
Τι συμβαίνει με την ποιότητα των άρθρων;
Η μελέτη διαπίστωσε ότι τα άρθρα που γράφτηκαν με τη βοήθεια AI χρησιμοποιούσαν, κατά μέσο όρο, πιο σύνθετη γλώσσα σε σχέση με εκείνα που γράφτηκαν χωρίς AI.
Ωστόσο, μεταξύ των άρθρων που γράφτηκαν χωρίς AI, εκείνα με πιο σύνθετη γλώσσα είχαν μεγαλύτερη πιθανότητα να δημοσιευθούν. Αυτό υποδηλώνει ότι η πιο σύνθετη και ποιοτική γραφή εκλαμβάνεται ως ένδειξη μεγαλύτερης επιστημονικής αξίας.
Αντίθετα, στα άρθρα που γράφτηκαν με υποστήριξη AI, η σχέση αυτή αντιστράφηκε: όσο πιο σύνθετη ήταν η γλώσσα, τόσο λιγότερες ήταν οι πιθανότητες δημοσίευσης. Αυτό υποδηλώνει ότι η σύνθετη γλώσσα που παράγεται από AI χρησιμοποιήθηκε για να καλύψει τη χαμηλή ποιότητα της επιστημονικής εργασίας.
Η AI αυξάνει την ποικιλία των ακαδημαϊκών πηγών
Η μελέτη εξέτασε επίσης τις διαφορές στις λήψεις άρθρων που προέρχονταν από τις μηχανές αναζήτησης της Google και της Microsoft. Η Microsoft ενσωμάτωσε τον Φεβρουάριο του 2023 το εργαλείο Bing Chat με τεχνητή νοημοσύνη. Αυτό επέτρεψε στους ερευνητές να συγκρίνουν τα άρθρα που προτείνονταν από αναζήτηση με AI έναντι της κλασικής αναζήτησης.
Ενδιαφέρον παρουσιάζει το γεγονός ότι οι χρήστες του Bing εκτέθηκαν σε μεγαλύτερη ποικιλία πηγών σε σχέση με τους χρήστες της Google, καθώς και σε πιο πρόσφατες δημοσιεύσεις. Αυτό πιθανότατα οφείλεται σε μια τεχνική του Bing Chat που ονομάζεται retrieval-augmented generation, η οποία συνδυάζει αποτελέσματα αναζήτησης με προτροπές AI.
Σε κάθε περίπτωση, οι φόβοι ότι η αναζήτηση με AI θα «κολλούσε» σε παλιές και υπερβολικά χρησιμοποιημένες πηγές δεν επιβεβαιώθηκαν.
Τι μας επιφυλάσσει το μέλλον
Η AI έχει ήδη επιφέρει σημαντικές αλλαγές στη συγγραφή και τη δημοσίευση επιστημονικών άρθρων. Έχει καταστεί αναπόσπαστο εργαλείο για πολλούς επιστήμονες, ιδιαίτερα για μη φυσικούς ομιλητές της αγγλικής, και φαίνεται πως ήρθε για να μείνει.
Καθώς η AI ενσωματώνεται σε εφαρμογές όπως επεξεργαστές κειμένου, email και λογιστικά φύλλα, σύντομα θα είναι αδύνατο να μη τη χρησιμοποιούμε — είτε το επιθυμούμε είτε όχι.
Για την επιστήμη, το πιο κρίσιμο ζήτημα είναι ότι η AI αμφισβητεί τη χρήση της σύνθετης, υψηλής ποιότητας γλώσσας ως δείκτη επιστημονικής αξίας. Η γρήγορη αξιολόγηση άρθρων με βάση τη γλωσσική ποιότητα καθίσταται ολοένα και πιο αναξιόπιστη και απαιτούνται επειγόντως νέες μέθοδοι αξιολόγησης.
Καθώς η σύνθετη γλώσσα χρησιμοποιείται όλο και περισσότερο για να καλύψει αδύναμες επιστημονικές συνεισφορές, η εις βάθος και κριτική αξιολόγηση των μεθοδολογιών και των αποτελεσμάτων κατά την κρίση από ομότιμους είναι πλέον απαραίτητη.
Μία πιθανή προσέγγιση είναι το να «πολεμήσουμε τη φωτιά με φωτιά» χρησιμοποιώντας εργαλεία αξιολόγησης βασισμένα στην AI, όπως αυτό που δημοσίευσε πρόσφατα ο Andrew Ng στο Πανεπιστήμιο Stanford. Με τον διαρκώς αυξανόμενο αριθμό υποβολών άρθρων και τον ήδη μεγάλο φόρτο εργασίας των επιμελητών επιστημονικών περιοδικών, τέτοιες λύσεις ενδέχεται να αποτελούν τη μοναδική βιώσιμη επιλογή.
Πηγή: theconversation.com
