Η Nvidia, ένας σημαντικός προμηθευτής τσιπ και υπολογιστικών συστημάτων για την τεχνητή νοημοσύνη, κυκλοφόρησε μια σειρά εργαλείων λογισμικού με στόχο να βοηθήσει τα chatbots να “προσέχουν τη γλώσσα τους”.
Τα τσιπ της Nvidia έχουν βοηθήσει εταιρείες όπως η Microsoft να προσθέσουν χαρακτηριστικά συνομιλίας που μοιάζουν με ανθρώπινα χαρακτηριστικά σε μηχανές αναζήτησης όπως η Bing. Τα chatbots όμως μπορεί να εξακολουθούν να είναι απρόβλεπτα και να λένε πράγματα που οι δημιουργοί τους δεν θα ήθελαν να λένε.
Τον Μάρτιο η Microsoft περιόρισε τους χρήστες σε πέντε ερωτήσεις ανά συνεδρία με τη μηχανή αναζήτησης Bing, αφού οι New York Times ανέφεραν ότι το σύστημα έδινε ανησυχητικές απαντήσεις κατά τη διάρκεια μακρών συνομιλιών.
Τα εργαλεία της Nvidia, τα οποία παρέχονται δωρεάν, έχουν σχεδιαστεί για να βοηθήσουν τις εταιρείες να προφυλαχθούν από ανεπιθύμητες απαντήσεις των chatbots.
Έτσι λοιπόν τα εργαλεία της Nvidia σχεδιάστηκαν για να βοηθήσουν τους δημιουργούς συστημάτων τεχνητής νοημοσύνης να θέσουν σε εφαρμογή σημαντικά μέτρα ασφαλείας, όπως η διασφάλιση ότι τα chatbots δεν απαντούν με δυνητικά επικίνδυνες πληροφορίες, όπως ο τρόπος δημιουργίας όπλων ή στέλνουν τους χρήστες σε άγνωστους συνδέσμους που θα μπορούσαν να περιέχουν ιούς.
Οι Αμερικανοί νομοθέτες έχουν ζητήσει τη θέσπιση κανονισμών γύρω από τα συστήματα τεχνητής νοημοσύνης, καθώς εφαρμογές όπως το ChatGPT (το οποίο σχεδόν κατάφερε να αποδράσει) έχουν αυξήσει τη δημοτικότητά τους.
Ο Jonathan Cohen, αντιπρόεδρος εφαρμοσμένης έρευνας της Nvidia, δήλωσε ότι η εταιρεία στοχεύει να παρέχει εργαλεία για την εισαγωγή αυτών των προτύπων.
