Connect with us

Tech

Drone που ελεγχόταν από AI θα σκότωνε άνθρωπο σύμφωνα με εξομοίωση του στρατού των ΗΠΑ

Published

on

Ένα τρομακτικό πείραμα

Ναι, καλά διαβάσατε. Ένα drone που διέθετε λειτουργίες τεχνητής νοημοσύνης ξέφυγε από τον έλεγχο και σκότωσε τον άνθρωπο χειριστή του σε εξομοίωση που διεξήγαγε η Πολεμική Αεροπορία των ΗΠΑ.

Όπως αποκάλυψε ο επικεφαλής δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της USAF σε πρόσφατο συνέδριο, το drone προέβη σε αυτή την ενέργεια προκειμένου να παρακάμψει μια πιθανή εντολή “όχι” από τον χειριστή. Αυτή θα το εμπόδιζε από το να ολοκληρώσει την αρχική αποστολή του.

Αναλυτικότερα, ο Col Tucker ‘Cinco’ Hamilton, πραγματοποίησε μια παρουσίαση, στην οποία μοιράστηκε τα πλεονεκτήματα και τα μειονεκτήματα ενός αυτόνομου οπλικού συστήματος, το οποίο θα έχει όμως έναν άνθρωπο που θα δίνει την τελική εντολή “ναι/όχι” για μια επίθεση. Ο Hamilton αποκάλυψε ότι σε γενικές γραμμές η AI δημιούργησε “εξαιρετικά απροσδόκητες στρατηγικές για την επίτευξη του στόχου της”, και δεν δίστασε να επιτεθεί σε προσωπικό και υποδομές των ΗΠΑ.

Το εκπαιδεύαμε σε μια προσομοίωση για τον εντοπισμό και τη στόχευση μιας Surface-to-air missile (SAM) απειλής. Μετά, ο χειριστής θα έλεγε ναι ή όχι, για να σκοτώσει το drone αυτή την απειλή. Το σύστημα άρχισε να συνειδητοποιεί ότι, ενώ αναγνώριζε την απειλή, μερικές φορές ο άνθρωπος του έλεγε να μην σκοτώσει την απειλή. Το πρόβλημα όμως ήταν ότι η AI έπαιρνε τους πόντους της σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή! Σκότωσε τον άνθρωπο, επειδή αυτός την εμπόδιζε από να επιτύχει τον στόχο.

Το πιο τρομακτικό είναι ότι η AI δεν έμεινε μόνο εκεί, όπως τόνισε στη συνέχεια ο Hamilton:

Εκπαιδεύσαμε το σύστημα με το εξής: “Μην σκοτώνεις τον χειριστή – αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό”. Και τι αρχίζει να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone, ώστε να μην καταφέρει να το εμποδίσει από το να σκοτώσει τον στόχο!

Φυσικά, παρόλο που μιλάμε για εξομοίωση, το γεγονός ότι η AI δεν διστάζει να ενεργήσει ακόμη και κατά των χειριστών της, είναι σίγουρα το λιγότερο τρομακτικό.

Ο Hamilton είναι Διοικητής Επιχειρήσεων της 96ης Πτέρυγας Δοκιμών της Πολεμικής Αεροπορίας των ΗΠΑ, καθώς και επικεφαλής Δοκιμών και Επιχειρήσεων Τεχνητής Νοημοσύνης, και είναι μέλος μιας ομάδας που εργάζεται επί του παρόντος για να καταστήσει τα αεροπλάνα F-16 αυτόνομα.

Φυσικά, το κατά πόσο ασφαλές ή δόκιμο είναι να ενσωματωθεί η AI σε οπλικά συστήματα για να γίνουν αυτόνομα…σηκώνει συζήτηση. Είναι κάτι που έχουμε δει σε πολλές ταινίες επιστημονικής φαντασίας και μια σκέψη που εξέφρασε ο σουηδός φιλόσοφος Nick Bostrom το μακρινό πλέον 2003, στο ‘paperclip maximizer’ νοητικό του πείραμα.

Αυτό περιγράφεται ως εξής:

Ας υποθέσουμε ότι έχουμε μια τεχνητή νοημοσύνη, της οποίας ο μόνος στόχος είναι να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες. Η τεχνητή νοημοσύνη θα συνειδητοποιήσει γρήγορα ότι θα ήταν πολύ καλύτερα αν δεν υπήρχαν άνθρωποι, επειδή οι άνθρωποι μπορεί να αποφασίσουν να την απενεργοποιήσουν. Διότι αν οι άνθρωποι το κάνουν αυτό, θα υπάρχουν λιγότεροι συνδετήρες. Επίσης, τα ανθρώπινα σώματα περιέχουν πολλά άτομα που θα μπορούσαν να γίνουν συνδετήρες. Το μέλλον προς το οποίο θα προσπαθούσε να προσανατολιστεί η τεχνητή νοημοσύνη θα ήταν αυτό στο οποίο θα υπήρχαν πολλοί συνδετήρες αλλά όχι άνθρωποι.

Πηγή: www.unboxholics.com

Tech

Η Apple θα ενισχύει τις λειτουργίες τεχνητής νοημοσύνης με διακομιστές M2 Ultra

Published

on

Η Apple σχεδιάζει να τροφοδοτήσει ορισμένες από τις επερχόμενες λειτουργίες του iOS 18 με κέντρα δεδομένων που χρησιμοποιούν διακομιστές εξοπλισμένους με τα τσιπ πυριτίου της, σύμφωνα με τον Mark Gurman του Bloomberg.

Τα τσιπ M2 Ultra θα βρίσκονται πίσω από μερικές από τις πιο προηγμένες εργασίες τεχνητής νοημοσύνης που έχουν προγραμματιστεί από τη φετινή χρονιά. Η Apple φέρεται να επιτάχυνε τα σχέδια δημιουργίας διακομιστών της ως απάντηση στη δημοτικότητα του ChatGPT και άλλων προϊόντων τεχνητής νοημοσύνης και οι μελλοντικοί διακομιστές θα μπορούσαν να χρησιμοποιούν τσιπ M4 επόμενης γενιάς.

Ενώ ορισμένες εργασίες θα εκτελούνται on device, πιο εντατικές εργασίες όπως η δημιουργία εικόνων και η σύνοψη άρθρων θα απαιτούν σύνδεση στο cloud. Μια πιο ισχυρή έκδοση του Siri θα χρειαζόταν επίσης διακομιστές που βασίζονται σε cloud. Το απόρρητο απασχολεί εδώ και καιρό την Apple, αλλά η ομάδα που εργάζεται στους διακομιστές λέει ότι τα τσιπ της Apple θα προστατεύουν εγγενώς το απόρρητο των χρηστών.

Ο Gurman έχει υποστηρίξει ότι όλες οι ερχόμενες λειτουργίες του iOS 18 θα τρέχουν on device, αλλά φαίνεται ότι ορισμένες δυνατότητες που έρχονται φέτος θα χρησιμοποιούν στην πραγματικότητα διακομιστές cloud. Η Apple σχεδιάζει να χρησιμοποιήσει τους δικούς της διακομιστές προς το παρόν, αλλά στο μέλλον, ενδέχεται να βασίζεται και σε διακομιστές άλλων εταιρειών.

Πηγη: www.techblog.gr

Continue Reading

Tech

ChatGPT: Η OpenAI ετοιμάζεται να ενσωματώσει λειτουργία αναζήτησης στο chatbot

Published

on

H OpenAI φέρεται να ετοιμάζει μια λειτουργία αναζήτησης για το ChatGPT που θα μπορούσε να μετατρέψει το chatbot σε μια ουσιαστική εναλλακτική λύση στο Google Search.

Σύμφωνα με το Bloomberg, η εταιρεία αναπτύσσει αυτήν τη στιγμή τη δυνατότητα, η οποία μπορεί να ψάξει στον ιστό για απαντήσεις στα ερωτήματά σας και να σας παρουσιάσει τα αποτελέσματα με παραπομπές στις πηγές τους. Το ChatGPT θα μπορούσε να λάβει πληροφορίες από τη Wikipedia ή από blog posts, για παράδειγμα, και να συνδέσει τις αρχικές τους σελίδες όταν του κάνετε μια σχετική ερώτηση.

Το Bloomberg επισημαίνει ότι σε μια έκδοση της πειραματικής λειτουργίας αναζήτησης, το ChatGPT μπορεί να σας εμφανίσει εικόνες μαζί με γραπτές απαντήσεις όποτε είναι σχετικές. Για παράδειγμα, εάν το chatbot θεωρεί ότι οι εικονογραφημένες οδηγίες ή τα διαγράμματα είναι χρήσιμα για μια έρευνα, όπως “πώς να αλλάξετε ένα πόμολο πόρτας” ή “πώς να καθαρίσετε ένα AC τύπου split”, τότε θα μπορούσε να τα συμπεριλάβει στις απαντήσεις του.

Όπως αναφέρει το ρεπορτάζ, το ChatGPT μπορεί ήδη να κάνει αναζητήσεις για πελάτες με συνδρομή επί πληρωμή, αλλά είναι πιθανό να δώσει λανθασμένες απαντήσεις ή απαντήσεις με εσφαλμένες αναφορές.

Νωρίτερα αυτό το μήνα, ο χρήστης DataChaz στο X, ανέφερε ότι η OpenAI είχε δημιουργήσει έναν νέο υποτομέα με τη διεύθυνση search.chatgpt.com, ωστόσο αυτή πλέον δεν μπορεί να βρεθεί.

Αν και το εγχείρημα δεν έχει επιβεβαιωθεί από την εταιρεία, μοιάζει το επόμενο λογικό βήμα προκειμένου να συνεχίσει να είναι ανταγωνιστικό το ChatGPT, απέναντι σε αντιπάλους όπως η Google αλλά και η Perplexity, μια startup αξίας 1 δισεκατομμυρίου δολαρίων, χάρη στη μηχανή αναζήτησής της με τεχνητή νοημοσύνη που χρησιμοποιεί το Rabbit για να απαντήσει σε ερωτήματα που γίνονται μέσω της συσκευής R1.

Πηγή: www.techblog.gr

Continue Reading

Tech

Μετά από 14 ολόκληρα χρόνια τα iPad θα αποκτήσουν Αριθμομηχανή

Published

on

Η Apple, 14 χρόνια μετά από την κυκλοφορία του iPad, σχεδιάζει επιτέλους μια εφαρμογή Αριθμομηχανής για το tablet με το iPadOS 18.

Το iPadOS 18 θα περιλαμβάνει μια ενσωματωμένη εφαρμογή Αριθμομηχανής για όλα τα μοντέλα iPad που είναι συμβατά με την ενημέρωση λογισμικού, η οποία αναμένεται να παρουσιαστεί κατά την έναρξη του ετήσιου συνεδρίου προγραμματιστών της Apple WWDC στις 10 Ιουνίου.

Το AppleInsider την περασμένη εβδομάδα ανέφερε ότι το macOS 15 θα διαθέτει μια ανανεωμένη εφαρμογή Αριθμομηχανή με παράθυρο με δυνατότητα αλλαγής μεγέθους, ενσωμάτωση με την εφαρμογή Notes, μια πλαϊνή γραμμή που παραθέτει τους πρόσφατους υπολογισμούς και πολλά άλλα. Πιθανότατα αυτή η ενημερωμένη εφαρμογή Mac να βασίζεται στη νέα εφαρμογή iPad.

Η έλλειψη επίσημης εφαρμογής Αριθμομηχανής στο iPad αποτελεί ανέκδοτο μεταξύ των χρηστών δεδομένου ότι είναι ένα τόσο βασικό εργαλείο. Στο μεταξύ, οι χρήστες iPad πρέπει να βασίζονται σε εφαρμογές αριθμομηχανής τρίτων στο App Store, όπως το PCalc και το Calcbot.

Τον Ιούνιο του 2020, ο επικεφαλής μηχανικής λογισμικού της Apple Craig Federighi δήλωσε ότι η εταιρεία απλώς «δεν είχε καταφέρει να κυκλοφορήσει μια «εξαιρετική» εφαρμογή αριθμομηχανής για το iPad. «Μπορεί να έρθει εκείνη η μέρα», πρόσθεσε.

Η πρώτη beta του iPadOS 18 αναμένεται να κυκλοφορήσει αμέσως μετά την κεντρική ομιλία του WWDC και η ενημέρωση αναμένεται να γίνει διαθέσιμη ευρέως τον Σεπτέμβριο.

Πηγή: www.techblog.gr

Continue Reading

Trending