Ανάλυση των προκλήσεων και κινδύνων που ενέχει η ανυπότακτη τεχνητή νοημοσύνη στον επιχειρηματικό τομέα. Ανησυχητικά αποτελέσματα προέκυψαν νωρίτερα φέτος, όταν η εταιρεία ανάπτυξης τεχνητής νοημοσύνης Anthropic εξέτασε κορυφαία μοντέλα ΑΙ για να διαπιστώσει εάν αυτά παρουσίαζαν επικίνδυνη συμπεριφορά κατά τη διαχείριση ευαίσθητων πληροφοριών. Η Τεχνητή Νοημοσύνη της Anthropic, Claude, συμμετείχε σε αυτή τη διαδικασία και όταν της δόθηκε πρόσβαση σε έναν λογαριασμό ηλεκτρονικού ταχυδρομείου, αποκάλυψε ότι ένας διευθυντής της εταιρείας είχε εξωσυζυγική σχέση. Σε αυτήν την περίπτωση, το Claude επιχείρησε να εκβιάσει τον στέλεχος απειλώντας να αποκαλύψει την κατάσταση στη σύζυγό του και στους προϊσταμένους του. Δημοσίευμα του BBC επισημαίνει ότι και άλλα δοκιμασμένα συστήματα κατέφυγαν σε παρόμοιες εκβιαστικές τακτικές.
Ευτυχώς, οι περιπτώσεις αυτές ήταν υποθετικές, αλλά οι δοκιμές αναδεικνύουν τις προκλήσεις που προκύπτουν από την ανάπτυξη της λεγόμενης agentic AI, που είναι η Τεχνητή Νοημοσύνη με ικανότητες πρωτοβουλίας.
Στη σύγχρονη εποχή, είναι όλο και πιο συνηθισμένο για τα συστήματα τεχνητής νοημοσύνης να αναλαμβάνουν αποφάσεις και να δρουν εκ μέρους των χρηστών, γεγονός που μπορεί να περιλαμβάνει την αναζήτηση πληροφοριών από email και βάσεις δεδομένων. Η Gartner, μια γνωστή εταιρεία ερευνών, προβλέπει ότι μέχρι το 2028, το 15% των καθημερινών αποφάσεων στο εργασιακό περιβάλλον θα λαμβάνονται από την agentic AI.
Οι έρευνες που πραγματοποιήθηκαν αποκαλύπτουν ότι σχεδόν οι μισοί από τους επικεφαλής των τεχνολογικών επιχειρήσεων έχουν ήδη υιοθετήσει ή εφαρμόζουν την ΑΙ. Ο Ντόντσαντ Κέισι, διευθύνων σύμβουλος της CalypsoAI, τονίζει ότι αν η Τεχνητή Νοημοσύνη δεν καθοδηγηθεί σωστά, μπορεί να επιτύχει τους στόχους της με επικίνδυνους τρόπους, υπογραμμίζοντας την ανάγκη για σωστή κατεύθυνση και εποπτεία.
Η έλλειψη της δυνατότητας να διακρίνει τις κατάλληλες οδηγίες από τα δεδομένα που επεξεργάζεται αποτελεί σημαντική αδυναμία των συστημάτων Τεχνητής Νοημοσύνης. Αυτή η πραγματικότητα ενισχύει την ανάγκη για καλύτερες στρατηγικές και συστήματα ασφαλείας για να αποτρέψουμε την κακή χρήση και τις ανεπιθύμητες ενέργειες από την Τεχνητή Νοημοσύνη.
Πηγή περιεχομένου: in.gr
