Eως και 20.000 δολ. θα προσφέρει η OpenAI σε όσους αναφέρουν προβλήματα στο ChatGPT

Η OpenAI θα αρχίσει να πληρώνει έως και 20.000 δολάρια σε όσους προτίθενται να βοηθήσουν την εταιρεία να βρει σφάλματα στα συστήματα τεχνητής νοημοσύνης της, όπως το μαζικά δημοφιλές chatbot ChatGPT.

Η εταιρεία τεχνητής νοημοσύνης έγραψε σε ένα blog post την Τρίτη ότι έχει αναπτύξει ένα πρόγραμμα bug bounty μέσω του οποίου όσοι θέλουν μπορούν να αναφέρουν αδυναμίες, σφάλματα ή και προβλήματα ασφαλείας που εντοπίζουν ενώ χρησιμοποιούν τα προϊόντα AI της. Τέτοια προγράμματα, τα οποία είναι συνηθισμένα στον κλάδο της τεχνολογίας, συνεπάγονται ότι οι εταιρείες πληρώνουν τους χρήστες για την αναφορά σφαλμάτων ή τυχόν ελαττωμάτων ασφάλειας. Η OpenAI δήλωσε ότι το αναπτύσσει σε συνεργασία με την Bugcrowd Inc. που είναι μια πλατφόρμα bug bounty.

Η εταιρεία θα καταβάλλει χρηματικές αμοιβές ανάλογα με το μέγεθος των σφαλμάτων που αποκαλύπτονται, που κυμαίνονται από 200 δολάρια για αυτό που αποκαλεί «ευρήματα χαμηλής σοβαρότητας» έως 20.000 δολάρια για «εξαιρετικές ανακαλύψεις».

Η εταιρεία δήλωσε ότι ένας από τους λόγους που αναπτύσσει το πρόγραμμα είναι επειδή πιστεύει ότι η διαφάνεια και η συνεργασία είναι το κλειδί για την εύρεση ευπαθειών στην τεχνολογία της.

«Αυτή η πρωτοβουλία αποτελεί ουσιαστικό μέρος της δέσμευσής μας για την ανάπτυξη ασφαλούς και προηγμένης τεχνητής νοημοσύνης», αναφέρεται στην ανάρτηση στο ιστολόγιο, η οποία γράφτηκε από τον Matthew Knight, επικεφαλής ασφάλειας της OpenAI. «Καθώς δημιουργούμε τεχνολογία και υπηρεσίες που είναι ασφαλείς, αξιόπιστες και αξιόπιστες, θα θέλαμε τη βοήθειά σας».

Η σελίδα Bugcrowd για το πρόγραμμα επιβράβευσης της OpenAI περιγράφει λεπτομερώς μια σειρά από ζητήματα ασφαλείας που δεν είναι επιλέξιμα για ανταμοιβές, συμπεριλαμβανομένων των προτροπών για παραβίαση της νομοθεσίας, των ερωτήσεων που οδηγούν ένα μοντέλο τεχνητής νοημοσύνης στη συγγραφή κακόβουλου κώδικα.

Η ανακοίνωση δεν θα μπορούσε να χαρακτηριστεί ακριβώς έκπληξη. Ο Greg Brockman, πρόεδρος και συνιδρυτής της εταιρείας με έδρα το Σαν Φρανσίσκο, ανέφερε πρόσφατα στο Twitter ότι η OpenAI «σκεφτόταν να ξεκινήσει ένα πρόγραμμα αμοιβής» ή ένα δίκτυο «κόκκινων συνεργατών» για τον εντοπισμό αδύνατων σημείων. 

Έκανε το σχόλιο αυτό ως απάντηση σε μια δημοσίευση που έγραψε ο Alex Albert, ένας 22χρονος λάτρης των προτροπών jailbreak, ο ιστότοπος του οποίου συγκεντρώνει γραπτές προτροπές που προορίζονται να παρακάμψουν τις διασφαλίσεις που έχουν θεσπίσει chatbots όπως το ChatGPT.

Moneyreview.gr με πληροφορίες από Bloomberg

Ακολουθήστε το Money Review στο Google News