fbpx

Η Microsoft θέλει να μας προστατέψει από πιθανή “εξέγερση” των AI

Όποιος πιστεύει ότι κάποια στιγμή θα μας καταλάβουν οι AI μηχανές, αρχικά μπορεί να σταματήσει να πιστεύει ότι το Terminator βασίζεται σε ρεαλιστικό σενάριο, αφού οι μηχανές λειτουργούν με στατιστικά και όχι με λογική. Επίσης, μπορεί να σταματήσει να αγχώνεται χάρη στην κυκλοφορία νέων προστατευτικών μέτρων που αποσκοπούν στην αποφυγή πιθανής εξέγερσης των AI.

Η μη κερδοσκοπική εταιρεία MITER συνεργάστηκε με 12 κορυφαίες εταιρείες, συμπεριλαμβανομένων των Microsoft, IBM και Nvidia για την κυκλοφορία του Adversarial ML Threat Matrix. Η εταιρεία αναφέρει ότι το σύστημα είναι ανοιχτού κώδικα που δημιουργήθηκε για να βοηθήσει τους αναλυτές ασφάλειας να εντοπίσουν, να ειδοποιήσουν, να ανταποκριθούν και να αντιμετωπίσουν απειλές που εμφανίζονται σε συστήματα Machine Learning.

To Adversarial ML Threat Matrix GitHub repository είναι ανοιχτό για όσους ενδιαφέρονται να μάθουν περισσότερα.

Η Microsoft αναφέρει ότι η κυκλοφορία οφείλεται στη συνεχή αύξηση του αριθμού των επιθέσεων εναντίον εμπορικών συστημάτων ML σε όλο τον κόσμο. Η εταιρεία ερεύνησε 28 μεγάλες επιχειρήσεις, διαπιστώνοντας ότι σχεδόν όλες δεν γνωρίζουν ακόμη την απειλή που μπορεί να δημιουργηθεί, με 25 από τους 28 να λένε ότι δε διαθέτουν τα κατάλληλα εργαλεία για να εξασφαλίσουν την ασφάλεια που χρειάζεται.

AI

Το Adversarial ML Threat Matrix προσπαθεί να βοηθήσει, να καθησυχάσει και να συμβουλεύσει αυτούς τους οργανισμούς, βοηθώντας τις ομάδες ασφαλείας να υπερασπιστούν τα ML συστήματα τους.

Το εν λόγω framework περιέχει μια σειρά από ευπάθειες του παρελθόντος, συμπεριφορές που εντοπίστηκαν από τη Microsoft και τη MITER με την πάροδο των χρόνων, καθώς και την εμπειρία της Microsoft στον τομέα της ασφάλειας.

Η Microsoft δήλωσε σε ένα blog post: “Βρήκαμε επίσης ότι όταν κάποιος επιτίθεται σε ένα σύστημα ML, χρησιμοποιεί ένα συνδυασμό από παραδοσιακές τεχνικές όπως το phishing και lateral movement παράλληλα με άλλες τεχνικές“. Έτσι, μαθαίνοντας τις τεχνικές που χρησιμοποιούνται, μπορεί και να αντιμετωπιστεί πιο αποτελεσματικά η εκάστοτε απειλή. Αν μη τι άλλο, η ιδέα φαίνεται αρκετά ενδιαφέρουσα.

guest
0 ΣΧΟΛΙΑ
Feedbacks
Εμφάνισε όλα τα σχόλια

READ MORE

NVIDIA RTX 3060 Ti: Διέρρευσαν τα επίσημα benchmarks – Πιο γρήγορη από την RTX 2080 Super

Τα επίσημα benchmarks της NVIDIA για την επερχόμενη RTX 3060 Ti έχουν διαρρεύσει και φαίνονται πολλά υποσχόμενα καθώς όπως θα δείτε και εσείς ξεπερνούν...

Την καλύτερη κυκλοφορία της σειράς είχε μέχρι τώρα το Assassin’s Creed Valhalla

Σύμφωνα με επίσημη ανακοίνωση της ίδιας της εταιρείας, το νέο Assassin's Creed Valhalla είχε από ότι φαίνεται την καλύτερη πρώτη βδομάδα σε σύγκριση με...

Δημοσιεύτηκε το trailer του νέου recut της ταινίας Godfather 3

Όπως σας είχαμε ενημερώσει και παλαιότερα ο Francis Coppola σε συνεργασία με την Paramount ήθελε να ξανατραβήξει το Godfather 3 με διαφορετικό τέλος. Η ταινία...

FIND US ON

5,482FansLike
727FollowersFollow
303FollowersFollow
1,630SubscribersSubscribe