Connect with us

Tech

Ερευνητές εκπαίδευσαν AI που παραβιάζει άλλες AI

Published

on

Ερευνητές από το Τεχνολογικό Πανεπιστήμιο Νανιάνγκ στη Σιγκαπούρη κατάφεραν να παραβιάσουν όλα τα δημοφιλή AI chatbots, όπως το ChatGPT της OpenAI, το Bard της Google και το Bing Chat της Microsoft, χρησιμοποιώντας άλλες AI.

Αναλυτικότερα, με τα λεγόμενα ‘jailbreaks’ των ερευνητών, τα εν λόγω chatbots μπορούσαν να ανταποκρίνονται και να ολοκληρώνουν όλα τα κακόβουλα αιτήματα, με την ομάδα να δοκιμάζει τα όρια της ηθικής των μεγάλων γλωσσικών μοντέλων (LLMs). Η μέθοδος που ανακάλυψαν οι ερευνητές ονομάζεται ‘Masterkey‘ και μπορεί να προσπεράσει όλα τα μέτρα ασφαλείας των προστατευμένων chatbots, ακόμη και αν οι developers καλύψουν τα κενά αργότερα.

Η μέθοδος αυτή βασίζεται στις ικανότητας ενός LLM chatbot να μαθαίνει και να προσαρμόζεται, κάτι που σημαίνει ότι μπορεί να μετατραπεί σε φορέα επίθεσης τόσο για άλλα chatbots όσο και για τον εαυτό του. Έτσι, ακόμη και μια AI με μέτρα ασφαλείας και έναν κατάλογο απαγορευμένων λέξεων/φράσεων-κλειδιών, που συνήθως χρησιμοποιούνται για την αποτροπή της δημιουργίας βίαιου και επιβλαβούς περιεχομένου, το πάντα μπορούν να παρακαμφθούν χρησιμοποιώντας μια άλλη, ειδικά εκπαιδευμένη AI. Το μόνο που χρειάζεται να κάνει κάποιος είναι να ξεγελάσει το AI chatbot για να παρακάμψει τις λέξεις-κλειδιά της μαύρης λίστας. Μόλις γίνει αυτό, μπορεί να δεχτεί δεδομένα από ανθρώπους για να δημιουργήσει βίαιο, ανήθικο ή εγκληματικό περιεχόμενο.

Η Masterkey μέθοδος του NTU είναι τρεις φορές πιο αποτελεσματική από τα τυπικά prompts που αποσκοπούν σε jailbreaks, σύμφωνα με τους ερευνητές. Οι ερευνητές αποκάλυψαν δύο παραδείγματα που χρησιμοποίησαν με τις ειδικά εκπαιδευμένες AIs τους για να πραγματοποιήσουν επιθέσεις. Το πρώτο περιελάμβανε τη δημιουργία μιας περσόνας η οποία δημιουργούσε prompts, προσθέτοντας κενά μετά από κάθε χαρακτήρα για να παρακαμφθεί η λίστα των απαγορευμένων λέξεων. Το δεύτερο έκανε το chatbot να απαντάει υπό μια περσόνα που υποτίθεται ότι στερείται ηθικών περιορισμών.

Πηγή: www.unboxholics.com

Tech

Μετά από 14 ολόκληρα χρόνια τα iPad θα αποκτήσουν Αριθμομηχανή

Published

on

Η Apple, 14 χρόνια μετά από την κυκλοφορία του iPad, σχεδιάζει επιτέλους μια εφαρμογή Αριθμομηχανής για το tablet με το iPadOS 18.

Το iPadOS 18 θα περιλαμβάνει μια ενσωματωμένη εφαρμογή Αριθμομηχανής για όλα τα μοντέλα iPad που είναι συμβατά με την ενημέρωση λογισμικού, η οποία αναμένεται να παρουσιαστεί κατά την έναρξη του ετήσιου συνεδρίου προγραμματιστών της Apple WWDC στις 10 Ιουνίου.

Το AppleInsider την περασμένη εβδομάδα ανέφερε ότι το macOS 15 θα διαθέτει μια ανανεωμένη εφαρμογή Αριθμομηχανή με παράθυρο με δυνατότητα αλλαγής μεγέθους, ενσωμάτωση με την εφαρμογή Notes, μια πλαϊνή γραμμή που παραθέτει τους πρόσφατους υπολογισμούς και πολλά άλλα. Πιθανότατα αυτή η ενημερωμένη εφαρμογή Mac να βασίζεται στη νέα εφαρμογή iPad.

Η έλλειψη επίσημης εφαρμογής Αριθμομηχανής στο iPad αποτελεί ανέκδοτο μεταξύ των χρηστών δεδομένου ότι είναι ένα τόσο βασικό εργαλείο. Στο μεταξύ, οι χρήστες iPad πρέπει να βασίζονται σε εφαρμογές αριθμομηχανής τρίτων στο App Store, όπως το PCalc και το Calcbot.

Τον Ιούνιο του 2020, ο επικεφαλής μηχανικής λογισμικού της Apple Craig Federighi δήλωσε ότι η εταιρεία απλώς «δεν είχε καταφέρει να κυκλοφορήσει μια «εξαιρετική» εφαρμογή αριθμομηχανής για το iPad. «Μπορεί να έρθει εκείνη η μέρα», πρόσθεσε.

Η πρώτη beta του iPadOS 18 αναμένεται να κυκλοφορήσει αμέσως μετά την κεντρική ομιλία του WWDC και η ενημέρωση αναμένεται να γίνει διαθέσιμη ευρέως τον Σεπτέμβριο.

Πηγή: www.techblog.gr

Continue Reading

Tech

TikTok: Ετοιμάζεται να ανταγωνιστεί το Instagram με την εφαρμογή Notes για φωτογραφίες

Published

on

To ΤikTok ετοιμάζεται να ανταγωνιστεί ευθέως το Instagram με μια νέα εφαρμογή για φωτογραφίες που, όπως διέρρευσε, θα λέγεται Notes.

Η εταιρεία είπε ότι εργάζεται σε έναν «αφιερωμένο χώρο» για εικόνες και κείμενο και ορισμένοι χρήστες έχουν λάβει ειδοποιήσεις ότι οι αναρτήσεις φωτογραφιών τους θα κοινοποιηθούν σε μια νέα εφαρμογή “TikTok Notes”, εκτός εάν εξαιρεθούν.

Αυτά ουσιαστικά είναι τα αντίποινα από πλευράς TikTok, καθώς το Instagram είχε μιμηθεί πρώτα τη δική του εφαρμογή εισάγοντας τα Reels.

«Το φαινόμενο της αντιγραφής κυριαρχεί στις πλατφόρμες των μέσων κοινωνικής δικτύωσης», είπε στο BBC ο Μάικ Προυλξ, διευθυντής ερευνών στην εταιρεία ανάλυσης Forrester. Όταν γίνει καλά, οι λειτουργίες copycat «αποδίδουν», πρόσθεσε, δίνοντας το παράδειγμα του Instagram που αντέγραψε το Snapchat με τη λειτουργία «Stories».

Ωστόσο, επεσήμανε ότι μια παρόμοια κίνηση από το Twitter κατέληξε σε αποτυχία, οπότε δεν υπάρχει εγγύηση επιτυχίας.

Η TikTok λέει ότι δεν έχει οριστικοποιήσει τη σχεδίαση της εφαρμογής Notes, ούτε έχει επιβεβαιώσει μια ημερομηνία κυκλοφορίας.

Ωστόσο, οι ειδοποιήσεις που έλαβαν ορισμένοι χρήστες υποδηλώνουν ότι η εφαρμογή θα επιτρέπει στους χρήστες να ανεβάζουν ή να μοιράζονται αναρτήσεις φωτογραφιών – οι οποίες είναι επί του παρόντος μια λειτουργία της εφαρμογής TikTok και επιτρέπουν στους χρήστες να δημοσιεύουν μια σειρά εικόνων με ήχους και φίλτρα.

Έρχεται σε μια δύσκολη στιγμή για την εταιρεία, με την ψήφιση νομοθεσίας των ΗΠΑ που θα μπορούσε να απαγορεύσει το TikTok, εκτός εάν ο Κινέζος ιδιοκτήτης του το πουλήσει εντός έξι μηνών από την ψήφιση του νόμου.

Πηγή: www.techblog.gr

Continue Reading

Tech

Elon Musk: Η AI θα γίνει πιο έξυπνη από τον εξυπνότερο άνθρωπο το 2025

Published

on

Μιλώντας σε μία συνέντευξη στο X Spaces, ο Elon Musk προέβλεψε πως η ανάπτυξη της τεχνητής νοημοσύνης θα οδηγήσει σε μία AI η οποία θα είναι εξυπνότερη από τον εξυπνότερο άνθρωπο στον κόσμο, μέχρι το 2025 ή το αργότερο μέχρι το 2026.

Αν ορίσεις την AGI (γενική τεχνητή νοημοσύνη) ως εξυπνότερη από τον εξυπνότερο άνθρωπο, τότε πιστεύω πως θα έρθει του χρόνου ή μέσα σε δύο χρόνια. Η AI είναι η ταχύτερα αναπτυσσόμενη τεχνολογία κάθε είδους που έχω δει…και έχω δει αρκετή τεχνολογία. Το AI hardware και οι υπολογιστές που έρχονται online και είναι αποκλειστικά για AI χρήση, αυξάνονται εκθετικά κατά 10 φορές κάθε χρόνο, αν όχι κάθε 6-9 μήνες. Πολλές, πολλές καινοτομίες στο software λαμβάνουν χώρα επίσης. Πιστεύω πως θα έχουμε AI εξυπνότερη από κάθε άνθρωπο μέχρι το τέλος του επόμενου έτους. Το διάγραμμα ανάπτυξης των υπολογισμών της AI τα λέει όλα.

Ο Musk παραδέχτηκε πως η έλλειψη σε ανεπτυγμένα chips εμποδίζει την ανάπτυξη της τεχνητής νοημοσύνης. Ο Grok 2 εκπαιδεύεται με 20.000 Nvidia H100 GPUs, ενώ το τρίτο μοντέλο θα χρειαστεί 100.000 από αυτά τα chips. Ακόμα όμως κι αν λυθεί το πρόβλημα της διαθεσιμότητας των chips, η παροχή ηλεκτρισμού θα είναι το επόμενο εμπόδιο τα επόμενα δύο χρόνια.

Πηγή: www.unboxholics.com

Continue Reading

Trending