Schneier sẽ thảo luận về nghiên cứu của mình vào thứ hai tới đây tại Hội thảo RSA 2021, được tổ chức trực tuyến. Chủ đề AI được dựa trên một bài luận mới đây do Bruce viết cho Dự án sử dụng AI có trách nhiệm tại Trung tâm Khoa học và Quan hệ Quốc tế Belfer tại Trường Kennedy của Harvard.

Câu hỏi cốt lõi mà Schneier đưa ra là: sẽ ra sao nếu các hệ thống AI có thể hack các hệ thống xã hội, kinh tế và chính trị trên quy mô, tốc độ, và phạm vi máy tính mà con người không thể kịp thời phát hiện rồi lãnh mọi hậu quả?

Đó là khi AI bước vào một "quy trình sáng tạo nhằm tìm kiếm các vụ hack"

"Chúng đã và đang làm điều đó trong lĩnh vực phần mềm, tìm kiếm những lỗ hổng trong mã máy tính. Chúng làm việc đó không tốt lắm, nhưng dần dần sẽ tốt hơn trong khi con người vẫn dậm chân tại chỗ" về khả năng phát hiện lỗ hổng - Schneier nói.

Ông dự báo rằng trong chưa đầy một thập kỷ nữa, AI sẽ có thể "đánh bại" con người trong các cuộc thi hack kiểu "cướp cờ", bằng chứng là trong cuộc thi DEFCON năm 2016, một đội thi tên Mayhem chỉ gồm toàn các AI đã vượt qua mọi đội thi con người để vào trận chung kết. Đó là bởi công nghệ AI chắc chắn sẽ tiến hoá và vượt quá khả năng của con người.

Schneier nói rằng mối lo của ông không hẳn là AI "đột nhập" vào các hệ thống, mà là AI tạo ra các giải pháp của riêng mình. "AI tìm ra một lỗ hổng và một giải pháp can thiệp, và con người sẽ dùng nó như một cách để kiếm tiền, như các quỹ mạo hiểm trong lĩnh vực tài chính".

Điều trớ trêu ở đây là AI hình thành nhờ lập trình của con người, nhưng chúng không có chức năng nhận thức như con người, ví dụ sự đồng cảm hay ý chí để biết khi nào cần làm gì. Schneier nhấn mạnh rằng dù đã có nhiều nghiên cứu nhằm trang bị khả năng nhận thức bối cảnh, đạo đức, và giá trị vào các chương trình AI, các hệ thống AI ngày nay đơn giản là không có chức năng đó.

Ngay cả vậy, con người cũng sẽ tận dụng được AI để tìm các lỗ hổng trong mã số thuế, như một công ty kế toán lớn vẫn thường làm để tìm một "con đường tránh thuế mới nhằm bán cho khách hàng". Do đó, các công ty tài chính nhiều khả năng sẽ không muốn lập trình thêm các quy tắc gây ảnh hưởng đến khả năng kiếm tiền từ AI của họ.

Nguy cơ lớn nhất ở đây là AI sẽ tìm được cách để lách luật mà con người không biết được - "AI sẽ tìm ra một số cách để can thiệp vào các quy định và chúng ta sẽ không nhận ra điều đó" - Schneier nói.

Schneier lấy ví dụ về vụ scandal của Volkswagen năm 2015, khi nhà sản xuất xe hơi này bị phát hiện gian lận trong các bài kiểm tra mức độ khí thải của các mẫu phương tiện của mình sau khi các kỹ sư lập trình hệ thống máy tính của xe nhằm kích hoạt chức năng hạn chế khí thải trong quá trình kiểm tra chứ không phải trong hoạt động bình thường.

Ông nói rằng "đó là con người phá luật", không phải AI, nhưng là một ví dụ cho thấy AI có thể gian lận trong một hệ thống nếu được "thả" cho tự học hỏi bên trong hệ thống đó.

Trong bài luận của mình, "Sự trỗi dậy của các hacker AI", Schneier miêu tả như sau: "Nếu tôi yêu cầu bạn thiết kế một phần mềm kiểm soát động cơ xe hơi để tối đa hiệu suất trong khi vẫn vượt qua các bài test về kiểm soát khí thải, bạn sẽ không thiết kế được phần mềm có khả năng gian lận mà không tự nhận thức được mình đang gian lận. Điều này đơn giản là không đúng đối với một AI; nó không hiểu khái niệm trừu tượng như gian lận. Nó sẽ có suy nghĩ ngoài khuôn khổ đơn giản bởi nó không có khái niệm về khuôn khổ, hoặc về những giới hạn trong các giải pháp hiện có của con người. Hoặc về đạo đức. Nó sẽ không hiểu rằng giải pháp của Volkswagen sẽ gây hại cho người khác, rằng nó đang bóp méo ý nghĩa của bài test khí thải, hoặc nó đang phá luật"

Nhà nghiên cứu Bruce Schneier

Hồi chuông cảnh tỉnh

Schneier thừa nhận khái niệm AI như một hacker là "rất hoang đường" ở thời điểm hiện tại, nhưng nó lại là một vấn đề cần được giải quyết.

"Chúng ta cần suy nghĩ về điều này" - ông nói. "Và tôi không chắc bạn có thể ngừng điều đó lại được. Khả năng xuất hiện tình trạng AI là hacker tuỳ thuộc nhiều vào câu hỏi: làm cách nào chúng ta đưa các quy định của hệ thống vào mã lệnh?"

Mấu chốt ở đây là tận dụng sức mạnh của AI vào hoạt động phòng thủ, như tìm kiếm và khắc phục mọi lỗ hổng trong một phần mềm trước khi nó được tung ra.

"Lúc đó chúng ta sẽ sống trong một thế giới nơi các lỗ hổng phần mềm là chuyện của quá khứ" - ông nói.

Mặt trái là thời kỳ chuyển dịch sẽ rất khó khăn: những mã lệnh lỗi thời hoặc đã được tung ra trước đó có thể đứng trước nguy cơ bị tấn công bởi các công cụ AI do kẻ xấu điều khiển.

Nguy cơ đó chính là các hệ thống AI tấn công các hệ thống AI khác trong tương lai, và con người sẽ sụp đổ, ông nói.

Nghiên cứu AI mới nhất của Schneier là sự tiếp nối của nghiên cứu của chính ông về cách ứng dụng tư duy và kỹ năng hacker để bảo vệ các hệ thống xã hội từng được trình bài tại Hội thảo RSA 2020 ở San Francisco. Khái niệm mà ông gọi là "hack xã hội" có nghĩa là các hacker có đạo đức sẽ giúp khắc phục những lỗ hổng - ví dụ trong mã số thuế và luật pháp của Mỹ để tránh những mối nguy hiểm phát sinh do vô tình hoặc cố ý.

Ý tưởng lớn của Schneier tựu chung lại ở một câu hỏi: "Chúng ta có thể hack xã hội và góp phần bảo vệ an toàn cho các hệ thống cấu thành xã hội hay không?"

Đồng thời, đừng quên để mắt đến việc AI tham gia vào hack xã hội.

"Máy tính nhanh hơn con người nhiều. Một quy trình do con người xử lý có thể mất vài tháng hoặc vài năm, nhưng chỉ còn vài ngày, vài giờ, hay thậm chí vài giây. Điều gì sẽ xảy ra khi bạn trao cho AI toàn bộ mã số thuế Mỹ và ra lệnh cho nó tìm ra mọi cách để có thể tối thiểu hoá tiền thuế còn nợ?" - ông viết trong bài luận.

(Theo Pháp luật và Bạn đọc, DarkReading)

Trí tuệ nhân tạo có thể bị thôi miên hay không?

Ngày nay, những trí tuệ máy móc với sức mạnh ngang ngửa con người đã không còn là chuyện khoa học viễn tưởng.

Theo Thời báo Hoàn cầu, việc Ericsson tham gia vào vòng phát triển 5G tiếp theo của Trung Quốc còn tùy vào Stockholm có thay đổi lập trường với Huawei hay không. Tháng 10/2020, Thụy Điển cấm nhà mạng dùng thiết bị 5G Huawei do nguy cơ an ninh quốc gia. Huawei đã đưa vụ việc lên tòa án và phán quyết sẽ có trong vài tuần tới.

Năm 2020, Trung Quốc cấm nhập khẩu rượu Australia, thịt bò và hàng hóa khác sau khi nước này thi hành lệnh cấm Huawei, kêu gọi điều tra cách Bắc Kinh xử lý dịch Covid-19.

Theo Thời báo Phố Wall, sau khi nhà chức trách Thụy Điển cấm Huawei, quan chức và báo chí Trung Quốc gọi đây là hành động không công bằng và khẳng định Huawei không gây hại, cũng như Thụy Điển đang cố gắng bảo vệ Ericsson. Trung Quốc dọa trả đũa các công ty Thụy Điển đang kinh doanh tại đây, bao gồm Ericsson và Investor AB.

Đứng trước nguy cơ bị trả đũa, CEO Ericsson Börje Ekholm phải tổ chức chiến dịch vận động thay mặt Huawei, đứng về phía Huawei trong cuộc chiến chống lệnh cấm của Thụy Điển. Theo CEO, chỉ 1% doanh thu Ericsson từ Thụy Điển, còn 8% từ Trung Quốc, nơi công ty tuyển dụng 13.000 người và điều hành một nhà máy.

Trung Quốc là thị trường thiết bị 5G lớn nhất thế giới. Bốn nhà mạng quốc doanh lớn đang triển khai vòng thử nghiệm thiết bị 5G tiếp theo để quyết định sử dụng nhà cung ứng nào cho giai đoạn tiếp theo.

Vào tháng 3, truyền thông cùng các tổ chức Trung Quốc kêu gọi tẩy chay thương hiệu quần áo H&M sau khi hãng thời trang Thụy Điển tuyên bố từ chối mua nguyên liệu từ Tân Cương, trong đó có bông. Một số cửa hàng H&M phải đóng cửa. Môi trường kinh doanh tại đây buộc vài doanh nghiệp Thụy Điển cân nhắc kế hoạch rút khỏi thị trường, theo Jerker Hellström, Giám đốc Trung tâm nghiên cứu Trung Quốc của Thụy Điển, thành viên của Hội đồng thương mại Thụy Điển – Trung Quốc.

Du Lam (Theo WSJ)

Huawei Technologies công bố doanh thu sụt mạnh do biện pháp trừng phạt của Mỹ

Doanh số bán điện thoại thông minh nói chung của Huawei giảm trên toàn cầu sau khi phía Mỹ đưa ra biện pháp hạn chế điện thoại Huawei không được sử dụng hệ điều hành và phần mềm của Mỹ.

Báo cáo của Juniper Research sử dụng 3 kịch bản để tính toán tiêu thụ điện của các trạm thu phát sóng di động, mức độ thải khí C02 và chi phí điện của các mạng di động. Ở kịch bản mà các nhà điều hành mạng di động không chú tâm theo đuổi chính sách môi trường xanh, tiêu thụ điện của các mạng di động sẽ vượt trên 9 tỷ USD vào năm 2014.