Học máy: Sức mạnh lớn ẩn chứa nhiều lỗ hổng mới

Đào Công
27/06/2020 17:52
D

Học máy đã mang đến cho con người rất nhiều ứng dụng vượt trội như ô tô tự lái, phần mềm xử lý hình ảnh, nhận diện giọng nói, xác thực sinh trắc học và khả năng giải mã hệ gen di truyền của con người. Song song, nó cũng có thể cung cấp cho tin tặc nhiều phương diện tấn công và phương thức phá hoại.

Học máy: Sức mạnh lớn ẩn chứa nhiều lỗ hổng mới

Những ứng dụng của học máy không giống như của các công nghệ trước đó, nên việc hiểu rõ các nguy cơ khi ứng dụng trở thành một điều thiết yếu. Những hậu quả có thể xảy ra sau một tấn công vào mô hình kiểm soát mạng của các phương tiện tự hành được kết nối, hay điều phối điều khiển truy cập của nhân viên bệnh viện sẽ rất khó lường. Cần phải xem xét các mối đe dọa thông thường hơn, như gian lận hệ thống điều khiển sinh trắc học để xâm nhập trái phép.

Học máy vẫn đang trong giai đoạn đầu của sự phát triển và hướng tấn công vào học máy vẫn còn chưa rõ nét. Vì vậy, chiến lược bảo vệ không gian mạng cũng đang ở những giai đoạn đầu. Mặc dù không thể ngăn chặn mọi hình thức tấn công, nhưng việc hiểu rõ cách thức chúng xảy ra giúp chúng ta giới hạn được và đưa ra chiến lược ứng phó.

Sự tiếp cận có cấu trúc của an toàn thông tin sử dụng học máy

Mô hình phát hiện mối đe dọa là tiến trình tối ưu hóa bảo mật áp dụng sự tiếp cận có cấu trúc nhằm nhận diện và giải quyết mối đe dọa. Mô hình phát hiện đe dọa bảo mật bằng học máy làm nhiệm vụ tương tự những mô hình học máy khác. Nó được sử dụng trong giai đoạn đầu của việc xây dựng và phát triển các mô hình học máy để phát hiện mọi mối đe dọa và hướng tấn công có thể có.

Có 4 câu hỏi cơ bản cần trả lời đối với sự tiếp cận có cấu trúc này.

Đối tượng gây ra mối đe dọa là ai?

Đối tượng gây ra mối đe dọa có thể là một quốc gia, tin tặc hay nhân viên lừa đảo. Mỗi loại đối thủ có những đặc điểm khác nhau, từ đó yêu cầu những biện pháp phòng chống, ứng phó khác nhau. Lý do để tấn công rất đa dạng, đó là vì sao mà câu hỏi "tại sao" và "là gì" được mô tả phía dưới là rất quan trọng.

Tại sao tấn công và động cơ tấn công là gì?

Có rất nhiều yếu tố có thể ảnh hưởng đến kẻ tấn công nhắm vào hệ thống học máy. Các chiến lược phòng thủ nên bắt nguồn từ CIA - 3 mặt của mô hình quản lý bảo mật thông tin, bao gồm: bảo mật (confidentiality), toàn vẹn (integrity) và sẵn sàng (availability). Cụ thể:

- Tính bảo mật đảm bảo rằng chỉ những người có quyền hợp pháp thì mới có thể truy cập thông tin. Sự bảo vệ này có thể ngăn chặn đối tượng muốn truy xuất dữ liệu nhạy cảm bằng cách xâm phạm dữ liệu huấn luyện.

- Một cuộc tấn công nhắm đến tính toàn vẹn sẽ cố gắng ảnh hưởng đến hành vi của mô hình, ví dụ: như trả về trạng thái dương tính giả trong hệ thống nhận diện khuôn mặt. Những cách bảo vệ như sao lưu thường xuyên, chữ ký điện tử, kiểm toán sẽ đảm bảo rằng thông tin không bị thay đổi hay giả mạo.

- Một tấn công vào tính sẵn sàng có thể nhắm đến việc giảm tính đồng nhất, hiệu suất hoặc quyền truy cập tới mô hình học máy. Những biện pháp hiệu quả trong thực tế để bảo vệ tính sẵn sàng, ví dụ: duy trì máy chủ dự phòng và áp dụng các công cụ chống mất mát dữ liệu, khiến thông tin luôn sẵn sàng khi cần thiết.

Phương thức tấn công là gì?

Các hệ thống học máy mở ra những con đường mới cho những cuộc tấn công mà không xuất hiện trong những chương trình thủ tục truyền thống. Một trong số đó là tấn công lẩn tránh hoặc tấn công đối kháng, trong đó tin tặc cố gắng chèn các dữ liệu đầu vào vào các mô hình học máy để cố ý gây ra các sai sót. Dữ liệu đó có thể trông vô hại với con người, nhưng những thay đổi nhỏ đó có thể khiến các thuật toán học máy đi lệch hướng.

Những kỹ thuật tấn công đó có thể xảy ra tại thời điểm suy luận (inference) bằng cách khai thác thông tin trong mô hình, thông thường theo một trong hai cách sau: Trong cuộc tấn công hộp trắng, kẻ tấn công có một vài thông tin về mô hình, thu được một cách trực tiếp hoặc thông qua các tác nhân không tin cậy trong đường xử lý dữ liệu. Nếu trong tình huống hộp đen, kẻ tấn công không biết gì về các hoạt động bên trong của hệ thống, nhưng phát hiện các lỗ hổng bằng cách liên tục thăm dò và tìm các mẫu cho kết quả trái với mô hình học.

Học máy: Sức mạnh lớn ẩn chứa nhiều lỗ hổng mới

Các hướng tấn công dữ liệu mới

Dựa vào thời điểm tấn công, có thể phân ra 2 loại phương thức của một cuộc tấn công học máy: tấn công trong giai đoạn suy luận và tấn công trong giai đoạn huấn luyện.

Trong một cuộc tấn công tại giai đoạn suy luận, tin tặc có thông tin cụ thể về mô hình và/hoặc dữ liệu huấn luyện. Không cần thiết phải truy cập trực tiếp tới hệ thống để thu thập thông tin.

Các kỹ thuật thăm dò, chẳng hạn như các cuộc tấn công kênh kề và từ xa, có thể cho phép kẻ thù xâm nhập các hệ thống học máy đã được triển khai bằng cách suy luận ra lôgic của hệ thống thông qua các phản hồi từ dữ liệu vào, hoặc bằng cách sử dụng kỹ thuật đầu độc dữ liệu (data poisoning). Từ đó, kể tấn công có thể nhắm trực tiếp vào phần cứng.

Tấn công tại giai đoạn huấn luyện là cố gắng học và phá hỏng mô hình. Dựa trên tính có sẵn của dữ liệu, tin tặc có thể sử dụng những mô hình thay thế để kiểm tra đầu vào trước khi tấn công nạn nhân.

Cũng có hai cách để thay thế mô hình. Phương pháp nhiễm độc sẽ sửa đổi các dữ liệu sẵn có bằng cách chèn các thành phần không tin cậy, dẫn đến kết quả của mô hình cũng trở nên không chính xác.

Phương pháp thay thế nguy hiểm hơn là phá hoại tính lôgic của mô hình, mà kẻ tấn công thay đổi chính thuật toán học máy. Kỹ thuật này đặc biệt nguy hiểm bởi vì kẻ tấn công có thể chiếm quyền điều khiển hệ thống một cách hiệu quả và chỉ định bất cứ đầu ra nào mà chúng muốn.

Các tấn công mô hình học máy

Khi liên kết tất cả các yếu tố với nhau, có thể xác định 3 phương thức tấn công riêng biệt nhắm vào các giai đoạn khác nhau của quá trình học máy:

Tấn công lẩn tránh (Evasion attacks): Đây là loại tấn công phổ biến nhất. Thường xảy ra trong thời điểm suy luận. Tấn công né tránh cố gắng thay đổi dữ liệu đầu vào khiến cho mô hình đưa ra kết quả không chính xác.

Tấn công nhiễm độc (Poisoning attacks): Kiểu tấn công này được thực hiện trong giai đoạn suy luận, nhằm vào tính toàn vẹn và sẵn sàng của hệ thống học máy. Tấn công nhiễm độc thay đổi các tập dữ liệu huấn luyện bằng chèn, xóa bỏ, hoặc sửa đổi những điểm có tính quyết định để thay đổi các đường biên (boundary) của mô hình đích.

Tấn công quyền riêng tư (Privacy attacks): Loại tấn công này thường xảy ra trong quá trình huấn luyện. Mục đích không phải phá hủy mô hình huấn luyện mà để thu thập thông tin nhạy cảm.

Thêm vào đó, có nhiều loại tấn công xảy ra trong một hoặc cả hai giai đoạn huấn luyện và suy luận. Chúng bao gồm tấn công điểm neo, tấn công mô phỏng, trích xuất mô hình, tìm đường dẫn....

Mặc dù, các kiểu tấn công mới có thể xuất hiện khi học máy đang trở nên phổ biến, nhưng việc hiểu những lỗ hổng và các chiến thuật phòng chống cơ bản là bước đầu để chống lại các kiểu tấn công này.

Theo An toàn Thông tin

Bình luận

Tối thiểu 10 chữ Tiếng việt có dấu Không chứa liên kết

Gửi bình luận

Tin cùng chuyên mục

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

An ninh mạng ngành Hàng hải: An toàn cho vận tải biển

An ninh mạng ngành Hàng hải: An toàn cho vận tải biển

Cảnh báo bảo mật với những ngôi nhà thông minh được kết nối Internet

Cảnh báo bảo mật với những ngôi nhà thông minh được kết nối Internet

Kiến trúc công nghệ xây dựng kho lưu trữ điện tử tại các cơ quan Đảng

Kiến trúc công nghệ xây dựng kho lưu trữ điện tử tại các cơ quan Đảng

Tìm thấy lỗ hổng nghiêm trọng trên các thiết bị QNAP NAS

Tìm thấy lỗ hổng nghiêm trọng trên các thiết bị QNAP NAS

Các ngân hàng có giải pháp gì trong việc bảo mật thanh toán trực tuyến

Các ngân hàng có giải pháp gì trong việc bảo mật thanh toán trực tuyến

Bảo vệ dữ liệu doanh nghiệp: Vấn đề sống còn trong kỷ nguyên số

Bảo vệ dữ liệu doanh nghiệp: Vấn đề sống còn trong kỷ nguyên số

Khoảng 95% các vụ gian lận tài chính liên quan đến người dùng thẻ trực tuyến

Khoảng 95% các vụ gian lận tài chính liên quan đến người dùng thẻ trực tuyến

Các tổ chức đối phó với mối đe dọa ngày càng tăng của ransomware như thế nào?

Các tổ chức đối phó với mối đe dọa ngày càng tăng của ransomware như thế nào?

Huawei cam kết chủ động đóng góp tích cực cho hệ sinh thái an ninh mạng

Huawei cam kết chủ động đóng góp tích cực cho hệ sinh thái an ninh mạng

Doanh nghiệp có nên thuê ngoài giải pháp bảo mật?

Doanh nghiệp có nên thuê ngoài giải pháp bảo mật?

Phát hiện lỗ hổng nguy hiểm trên Microsoft 365

Phát hiện lỗ hổng nguy hiểm trên Microsoft 365

Tin mới cập nhật

Chính thức phát động cuộc thi sáng tác logo "Chuyển đổi số quốc gia"

Chính thức phát động cuộc thi sáng tác logo "Chuyển đổi số quốc gia"

Xiaomi và Leica hợp tác nâng tầm nhiếp ảnh trên Xiaomi 12S Series

Xiaomi và Leica hợp tác nâng tầm nhiếp ảnh trên Xiaomi 12S Series

Ford Everest 2023 loạn giá

Ford Everest 2023 loạn giá

Samsung giới thiệu dòng loa 2022 mới tại Việt Nam

Samsung giới thiệu dòng loa 2022 mới tại Việt Nam

Tình trạng xâm phạm quyền sở hữu trí tuệ trên môi trường số diễn biến phức tạp

Tình trạng xâm phạm quyền sở hữu trí tuệ trên môi trường số diễn biến phức tạp

Vertiv công bố báo cáo Môi Trường, Xã Hội và Quản trị ESG

Vertiv công bố báo cáo Môi Trường, Xã Hội và Quản trị ESG

Xác thực thông tin thuê bao để giải quyết dứt điểm tình trạng dùng SIM rác, nặc danh

Xác thực thông tin thuê bao để giải quyết dứt điểm tình trạng dùng SIM rác, nặc danh

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

Ứng dụng công nghệ GIS để xây dựng đô thị thông minh đáng sống

Ứng dụng công nghệ GIS để xây dựng đô thị thông minh đáng sống

8 lưu ý khi sử dụng ứng dụng để gia tăng không gian lưu trữ trên điện thoại

8 lưu ý khi sử dụng ứng dụng để gia tăng không gian lưu trữ trên điện thoại

NuraTrue Pro tai nghe không dây đầu tiên hỗ trợ aptX Lossless

NuraTrue Pro tai nghe không dây đầu tiên hỗ trợ aptX Lossless

Đại nhạc hội Take me to the Sun đến Đà Nẵng tối 9/7

Đại nhạc hội Take me to the Sun đến Đà Nẵng tối 9/7

Tin đọc nhiều

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

Dữ liệu cá nhân của một tỷ người dân Trung Quốc bị rao bán trên web đen

An ninh mạng ngành Hàng hải: An toàn cho vận tải biển

An ninh mạng ngành Hàng hải: An toàn cho vận tải biển

Cảnh báo bảo mật với những ngôi nhà thông minh được kết nối Internet

Cảnh báo bảo mật với những ngôi nhà thông minh được kết nối Internet

Tìm thấy lỗ hổng nghiêm trọng trên các thiết bị QNAP NAS

Tìm thấy lỗ hổng nghiêm trọng trên các thiết bị QNAP NAS

Bảo vệ dữ liệu doanh nghiệp: Vấn đề sống còn trong kỷ nguyên số

Bảo vệ dữ liệu doanh nghiệp: Vấn đề sống còn trong kỷ nguyên số

Doanh nghiệp có nên thuê ngoài giải pháp bảo mật?

Doanh nghiệp có nên thuê ngoài giải pháp bảo mật?

Kỹ năng an toàn thông tin - 'Lỗ hổng lớn' trên không gian mạng của người dùng Việt

Kỹ năng an toàn thông tin - 'Lỗ hổng lớn' trên không gian mạng của người dùng Việt

Tin tặc tấn công dữ liệu vắc xin COVID-19 của Pfizer/BioNTech để làm gì?

Tin tặc tấn công dữ liệu vắc xin COVID-19 của Pfizer/BioNTech để làm gì?

Lỗ hổng vượt qua xác thực mã PIN mới ảnh hưởng tới thanh toán Visa

Lỗ hổng vượt qua xác thực mã PIN mới ảnh hưởng tới thanh toán Visa

Gần 80% người dùng bị nhận diện qua lịch sử duyệt web

Gần 80% người dùng bị nhận diện qua lịch sử duyệt web

Video xem nhiều

Giới thiệu chương trình bình chọn “Xe của năm 2022"

Giới thiệu chương trình bình chọn “Xe của năm 2022"

Mazda2 2021 Collection ra mắt Thái Lan: Bản nâng cấp vượt trội về công nghệ

Mazda2 2021 Collection ra mắt Thái Lan: Bản nâng cấp vượt trội về công nghệ

Đánh giá iPhone SE 2020: Nhiều công nghệ để yêu, ít chi tiêu

Đánh giá iPhone SE 2020: Nhiều công nghệ để yêu, ít chi tiêu

Clip: Những lưu ý khi sử dụng phương tiện công cộng trong đại dịch Covid-19

Clip: Những lưu ý khi sử dụng phương tiện công cộng trong đại dịch Covid-19

Xiaomi ra mắt Mi 10 và Mi 10 Pro: chip Snapdragon 865 và camera 108MP

Xiaomi ra mắt Mi 10 và Mi 10 Pro: chip Snapdragon 865 và camera 108MP

“Rắn tiên tri” dự đoán đội tuyển Việt Nam thắng Thái Lan

“Rắn tiên tri” dự đoán đội tuyển Việt Nam thắng Thái Lan

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Một ngày trải nghiệm giấc mơ trở thành tay đua F1 chuyên nghiệp ở Nhật Bản

Bắc Sơn mây hát

Bắc Sơn mây hát

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Kỷ niệm 74 năm ngày truyền thống ngành Bưu điện (15/8/1945 - 15/8/2019)

Kỷ niệm 74 năm ngày truyền thống ngành Bưu điện (15/8/1945 - 15/8/2019)

Mặt nạ LG Derma LED mask - Thiết bị làm đẹp da cá nhân

Mặt nạ LG Derma LED mask - Thiết bị làm đẹp da cá nhân

5G thay đổi tương lai của bạn như thế nào?

5G thay đổi tương lai của bạn như thế nào?

Bàn về tầm nhìn và các trụ cột của công nghệ thông tin di động 6G
04/03/2022
Chip xử lý A15 Bionic của Apple có gì mới
15/09/2021
Sex Education mùa 3 được Netflix công chiếu vào 17/9
14/09/2021
iPhone 13 không thay đổi nhiều về ngoại hình, camera được nâng cấp mạnh
13/09/2021
Cách xem trực tiếp sự kiện ra mắt iPhone 13 và Apple Watch 7
10/09/2021
VNEID của Bộ Công an khác các ứng dụng đang được vận hành?
10/09/2021
'Cái tôi' thời 4.0 và tính hai mặt của mạng xã hội
04/09/2021
'Muôn màu' cảm xúc của trẻ trong ngày khai giảng online
24/08/2021
Chủ tịch Chu Ngọc Anh giải toả 'ách tắc' về Giấy đi đường cho người dân Thủ đô
10/08/2021
Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?
02/08/2021
6 bộ phim hay nhất để xem trên VieON
29/01/2021
Bắc Ninh: Không ký kết triển khai dự án Owifi 5G với CSE Singapore
27/06/2020
Bị World Bank cấm dự thầu 7 năm, công ty Sao Bắc Đẩu thừa nhận sai sót
27/06/2020
Wefinex - Mô hình hoạt động đa cấp "đội lốt" đầu tài chính trên mạng internet
10/06/2020
Khai trừ MISA khỏi Câu lạc bộ Chữ ký số và Giao dịch điện tử Việt Nam
27/05/2020
Chuyển đổi số - Nên hiểu như thế nào cho đúng
25/05/2020
Chống thất thu thuế là thách thức lớn đối với nền kinh tế số
29/04/2020
Cách chuyển tập tin sang máy tính mới
10/11/2019
VNPT, MobiFone, VTC sẽ hoàn thành cổ phần hóa trước năm 2021
20/08/2019
5G thay đổi tương lai của bạn như thế nào?
26/07/2019
Nhận diện hành vi lừa đảo trên không gian mạng
25/07/2019
Truyền hình OTT - Hướng đi mới của các “nhà Đài”
24/07/2019
Tiến sĩ Trần Văn Mạnh (Trung tâm Khuyến nông Quốc gia) đánh giá, việc phát triển sản xuất rau ứng dụng công nghệ cao nói riêng và sản xuất nông nghiệp ứng dụng công nghệ cao nói chung là hướng đi đúng, tạo động lực mới cho ngành nông nghiệp Việt Nam.
Kinh nghiệm quá hữu ích. Cần phổ biến ngay cho các cháu nhỏ.
Chúc mừng ngày thành lập ngành Bưu điện Việt Nam
Bài viết rất hay và ý nghĩa về eKGIS và hội thảo CNTT. Cảm ơn tác giả
Tình yêu , cống hiến ,nổ lực đã vượt qua những trở ngại tưởng chừng như không bao giờ qua được. Chúc Mừng Con người Đẹp , chúng tôi luôn tự hào !
Giờ mình mới biết - Chúc mừng chúc mừng con người Đẹp
Một con người dùng cả một cuộc đời cho tình yêu thiên nhiên . Ông đã đóng góp cống hiến cho nghành thực vật học nước nhà bảo tồn phát triển những loài lan quí hiếm . Xin chúc ngài có một sinh nhật ngài ấm áp hạnh phúc bên người thân . Mong xã hội và trên toàn thế giới có nhiều người tâm huyết như ông . Xin chúc cho tình cảm hữu nghị giữa hai đất nước TL & VN luôn bền chặt và thắm thiết . VN luôn yêu quí các bạn !
Con này chắc không bằng con Netgear Orbi RBS40 đâu mình đã dùng thử và đã lắp đặt nhiều nhà , cơ quan, resort , văn phòng , showroom . Con netgear Orbi có app kiểm tra từ xa và loại đối tượng thông qua tắt ip đối tượng đó
Nhu cầu tuyển dụng tăng gấp đột biến 4 lần trong một thời gian ngắn điều đó phản ánh tỉ lệ thất nghiệp trong những tháng đầu năm là 3/4 do ảnh hưởng của đại dịch covid-19 đây là một điều đáng buồn, rồi các cử nhân, kỹ sư sẽ đi đâu về đâu trong giai đoạn bất ổn này. Để cân bằng lại có thể mất một thời gian dài.