חושך בקצה המנהרה? חברת Anthropic האמריקאית בלמה גישה של מדענים לבינה מלאכותית מחשש שישמש לפיתוח נשק ביולוגי קטלני

המערב מונע ממדענים גישה לבינה מלאכותית.. מתוך חשש שמא יצאו משליטה!

חברת Anthropic האמריקאית הודיעה כי עצרה את הגישה של מספר מדענים לפלטפורמת הבינה המלאכותית Claude לאחר שזיהתה מחקרים ביולוגיים, ואמרה כי החברה סבורה שהם עלולים לשמש בפיתוח נשק ביולוגי – כך דיווח העיתון "הניו יורק טיימס".

הדבר הבולט הוא שהחברה לא הצליחה לקבוע אם המחקרים לגיטימיים או בעלי מניעים זדוניים, אך היא החליטה לעצור אותם לאחר שחלק מהמשתמשים הצליחו לעקוף את אמצעי ההגנה שהפלטפורמה הטילה, והשיגו תוצאות מרשימות.

המחקרים שנבלמו היו בנושאים הבאים:

*- שינוי גנטי של וירוסים מסוכנים.

*- מחקר שהיה אמור להתבצע מתוך מתקן צבאי.

*- מחקרים על פתוגנים בעלי פוטנציאל למגפה עולמית.

Anthropic חסמה את כל החשבונות המעורבים, וחלקה את המידע עם ממשלת ארה"ב, מעבדות AI מתחרות ושותפים בתעשייה כדי לשפר את ההגנות הכלליות מפני איומים מסוג זה.