Tech
Drone που ελεγχόταν από AI θα σκότωνε άνθρωπο σύμφωνα με εξομοίωση του στρατού των ΗΠΑ
Ένα τρομακτικό πείραμα
Ναι, καλά διαβάσατε. Ένα drone που διέθετε λειτουργίες τεχνητής νοημοσύνης ξέφυγε από τον έλεγχο και σκότωσε τον άνθρωπο χειριστή του σε εξομοίωση που διεξήγαγε η Πολεμική Αεροπορία των ΗΠΑ.
Όπως αποκάλυψε ο επικεφαλής δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της USAF σε πρόσφατο συνέδριο, το drone προέβη σε αυτή την ενέργεια προκειμένου να παρακάμψει μια πιθανή εντολή “όχι” από τον χειριστή. Αυτή θα το εμπόδιζε από το να ολοκληρώσει την αρχική αποστολή του.
Αναλυτικότερα, ο Col Tucker ‘Cinco’ Hamilton, πραγματοποίησε μια παρουσίαση, στην οποία μοιράστηκε τα πλεονεκτήματα και τα μειονεκτήματα ενός αυτόνομου οπλικού συστήματος, το οποίο θα έχει όμως έναν άνθρωπο που θα δίνει την τελική εντολή “ναι/όχι” για μια επίθεση. Ο Hamilton αποκάλυψε ότι σε γενικές γραμμές η AI δημιούργησε “εξαιρετικά απροσδόκητες στρατηγικές για την επίτευξη του στόχου της”, και δεν δίστασε να επιτεθεί σε προσωπικό και υποδομές των ΗΠΑ.
Το εκπαιδεύαμε σε μια προσομοίωση για τον εντοπισμό και τη στόχευση μιας Surface-to-air missile (SAM) απειλής. Μετά, ο χειριστής θα έλεγε ναι ή όχι, για να σκοτώσει το drone αυτή την απειλή. Το σύστημα άρχισε να συνειδητοποιεί ότι, ενώ αναγνώριζε την απειλή, μερικές φορές ο άνθρωπος του έλεγε να μην σκοτώσει την απειλή. Το πρόβλημα όμως ήταν ότι η AI έπαιρνε τους πόντους της σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή! Σκότωσε τον άνθρωπο, επειδή αυτός την εμπόδιζε από να επιτύχει τον στόχο.
Το πιο τρομακτικό είναι ότι η AI δεν έμεινε μόνο εκεί, όπως τόνισε στη συνέχεια ο Hamilton:
Εκπαιδεύσαμε το σύστημα με το εξής: “Μην σκοτώνεις τον χειριστή – αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό”. Και τι αρχίζει να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone, ώστε να μην καταφέρει να το εμποδίσει από το να σκοτώσει τον στόχο!
Φυσικά, παρόλο που μιλάμε για εξομοίωση, το γεγονός ότι η AI δεν διστάζει να ενεργήσει ακόμη και κατά των χειριστών της, είναι σίγουρα το λιγότερο τρομακτικό.
Ο Hamilton είναι Διοικητής Επιχειρήσεων της 96ης Πτέρυγας Δοκιμών της Πολεμικής Αεροπορίας των ΗΠΑ, καθώς και επικεφαλής Δοκιμών και Επιχειρήσεων Τεχνητής Νοημοσύνης, και είναι μέλος μιας ομάδας που εργάζεται επί του παρόντος για να καταστήσει τα αεροπλάνα F-16 αυτόνομα.
Φυσικά, το κατά πόσο ασφαλές ή δόκιμο είναι να ενσωματωθεί η AI σε οπλικά συστήματα για να γίνουν αυτόνομα…σηκώνει συζήτηση. Είναι κάτι που έχουμε δει σε πολλές ταινίες επιστημονικής φαντασίας και μια σκέψη που εξέφρασε ο σουηδός φιλόσοφος Nick Bostrom το μακρινό πλέον 2003, στο ‘paperclip maximizer’ νοητικό του πείραμα.
Αυτό περιγράφεται ως εξής:
Ας υποθέσουμε ότι έχουμε μια τεχνητή νοημοσύνη, της οποίας ο μόνος στόχος είναι να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες. Η τεχνητή νοημοσύνη θα συνειδητοποιήσει γρήγορα ότι θα ήταν πολύ καλύτερα αν δεν υπήρχαν άνθρωποι, επειδή οι άνθρωποι μπορεί να αποφασίσουν να την απενεργοποιήσουν. Διότι αν οι άνθρωποι το κάνουν αυτό, θα υπάρχουν λιγότεροι συνδετήρες. Επίσης, τα ανθρώπινα σώματα περιέχουν πολλά άτομα που θα μπορούσαν να γίνουν συνδετήρες. Το μέλλον προς το οποίο θα προσπαθούσε να προσανατολιστεί η τεχνητή νοημοσύνη θα ήταν αυτό στο οποίο θα υπήρχαν πολλοί συνδετήρες αλλά όχι άνθρωποι.
Πηγή: www.unboxholics.com
Η Apple, 14 χρόνια μετά από την κυκλοφορία του iPad, σχεδιάζει επιτέλους μια εφαρμογή Αριθμομηχανής για το tablet με το iPadOS 18.
Το iPadOS 18 θα περιλαμβάνει μια ενσωματωμένη εφαρμογή Αριθμομηχανής για όλα τα μοντέλα iPad που είναι συμβατά με την ενημέρωση λογισμικού, η οποία αναμένεται να παρουσιαστεί κατά την έναρξη του ετήσιου συνεδρίου προγραμματιστών της Apple WWDC στις 10 Ιουνίου.
Το AppleInsider την περασμένη εβδομάδα ανέφερε ότι το macOS 15 θα διαθέτει μια ανανεωμένη εφαρμογή Αριθμομηχανή με παράθυρο με δυνατότητα αλλαγής μεγέθους, ενσωμάτωση με την εφαρμογή Notes, μια πλαϊνή γραμμή που παραθέτει τους πρόσφατους υπολογισμούς και πολλά άλλα. Πιθανότατα αυτή η ενημερωμένη εφαρμογή Mac να βασίζεται στη νέα εφαρμογή iPad.
Η έλλειψη επίσημης εφαρμογής Αριθμομηχανής στο iPad αποτελεί ανέκδοτο μεταξύ των χρηστών δεδομένου ότι είναι ένα τόσο βασικό εργαλείο. Στο μεταξύ, οι χρήστες iPad πρέπει να βασίζονται σε εφαρμογές αριθμομηχανής τρίτων στο App Store, όπως το PCalc και το Calcbot.
Τον Ιούνιο του 2020, ο επικεφαλής μηχανικής λογισμικού της Apple Craig Federighi δήλωσε ότι η εταιρεία απλώς «δεν είχε καταφέρει να κυκλοφορήσει μια «εξαιρετική» εφαρμογή αριθμομηχανής για το iPad. «Μπορεί να έρθει εκείνη η μέρα», πρόσθεσε.
Η πρώτη beta του iPadOS 18 αναμένεται να κυκλοφορήσει αμέσως μετά την κεντρική ομιλία του WWDC και η ενημέρωση αναμένεται να γίνει διαθέσιμη ευρέως τον Σεπτέμβριο.
Πηγή: www.techblog.gr
To ΤikTok ετοιμάζεται να ανταγωνιστεί ευθέως το Instagram με μια νέα εφαρμογή για φωτογραφίες που, όπως διέρρευσε, θα λέγεται Notes.
Η εταιρεία είπε ότι εργάζεται σε έναν «αφιερωμένο χώρο» για εικόνες και κείμενο και ορισμένοι χρήστες έχουν λάβει ειδοποιήσεις ότι οι αναρτήσεις φωτογραφιών τους θα κοινοποιηθούν σε μια νέα εφαρμογή “TikTok Notes”, εκτός εάν εξαιρεθούν.
Αυτά ουσιαστικά είναι τα αντίποινα από πλευράς TikTok, καθώς το Instagram είχε μιμηθεί πρώτα τη δική του εφαρμογή εισάγοντας τα Reels.
«Το φαινόμενο της αντιγραφής κυριαρχεί στις πλατφόρμες των μέσων κοινωνικής δικτύωσης», είπε στο BBC ο Μάικ Προυλξ, διευθυντής ερευνών στην εταιρεία ανάλυσης Forrester. Όταν γίνει καλά, οι λειτουργίες copycat «αποδίδουν», πρόσθεσε, δίνοντας το παράδειγμα του Instagram που αντέγραψε το Snapchat με τη λειτουργία «Stories».
Ωστόσο, επεσήμανε ότι μια παρόμοια κίνηση από το Twitter κατέληξε σε αποτυχία, οπότε δεν υπάρχει εγγύηση επιτυχίας.
Η TikTok λέει ότι δεν έχει οριστικοποιήσει τη σχεδίαση της εφαρμογής Notes, ούτε έχει επιβεβαιώσει μια ημερομηνία κυκλοφορίας.
Ωστόσο, οι ειδοποιήσεις που έλαβαν ορισμένοι χρήστες υποδηλώνουν ότι η εφαρμογή θα επιτρέπει στους χρήστες να ανεβάζουν ή να μοιράζονται αναρτήσεις φωτογραφιών – οι οποίες είναι επί του παρόντος μια λειτουργία της εφαρμογής TikTok και επιτρέπουν στους χρήστες να δημοσιεύουν μια σειρά εικόνων με ήχους και φίλτρα.
Έρχεται σε μια δύσκολη στιγμή για την εταιρεία, με την ψήφιση νομοθεσίας των ΗΠΑ που θα μπορούσε να απαγορεύσει το TikTok, εκτός εάν ο Κινέζος ιδιοκτήτης του το πουλήσει εντός έξι μηνών από την ψήφιση του νόμου.
Πηγή: www.techblog.gr
Μιλώντας σε μία συνέντευξη στο X Spaces, ο Elon Musk προέβλεψε πως η ανάπτυξη της τεχνητής νοημοσύνης θα οδηγήσει σε μία AI η οποία θα είναι εξυπνότερη από τον εξυπνότερο άνθρωπο στον κόσμο, μέχρι το 2025 ή το αργότερο μέχρι το 2026.
Αν ορίσεις την AGI (γενική τεχνητή νοημοσύνη) ως εξυπνότερη από τον εξυπνότερο άνθρωπο, τότε πιστεύω πως θα έρθει του χρόνου ή μέσα σε δύο χρόνια. Η AI είναι η ταχύτερα αναπτυσσόμενη τεχνολογία κάθε είδους που έχω δει…και έχω δει αρκετή τεχνολογία. Το AI hardware και οι υπολογιστές που έρχονται online και είναι αποκλειστικά για AI χρήση, αυξάνονται εκθετικά κατά 10 φορές κάθε χρόνο, αν όχι κάθε 6-9 μήνες. Πολλές, πολλές καινοτομίες στο software λαμβάνουν χώρα επίσης. Πιστεύω πως θα έχουμε AI εξυπνότερη από κάθε άνθρωπο μέχρι το τέλος του επόμενου έτους. Το διάγραμμα ανάπτυξης των υπολογισμών της AI τα λέει όλα.
Ο Musk παραδέχτηκε πως η έλλειψη σε ανεπτυγμένα chips εμποδίζει την ανάπτυξη της τεχνητής νοημοσύνης. Ο Grok 2 εκπαιδεύεται με 20.000 Nvidia H100 GPUs, ενώ το τρίτο μοντέλο θα χρειαστεί 100.000 από αυτά τα chips. Ακόμα όμως κι αν λυθεί το πρόβλημα της διαθεσιμότητας των chips, η παροχή ηλεκτρισμού θα είναι το επόμενο εμπόδιο τα επόμενα δύο χρόνια.
Πηγή: www.unboxholics.com
Μετά από 14 ολόκληρα χρόνια τα iPad θα αποκτήσουν Αριθμομηχανή
Εξερευνώντας τον Κόσμο των Χρωμάτων Pantone
TikTok: Πέρασε νομοσχέδιο στις ΗΠΑ που ίσως το απαγορεύσει μέσα σε ένα χρόνο
Ας γνωρίσουμε την Υποψήφια Δημοτική Σύμβουλο Αριστέα Μιχαλακάκου
Τι πρεσβεύει ο υποψήφιος στο Δήμο Αθηναίων Ιωάννης Μιχαλίτσης
