Youth Herald: AI có thể giải thích được trong Hải quân Hoa Kỳ

Sản phẩm Ủy ban Thanh niên San José là nhóm cố vấn thanh niên chính thức cho thị trưởng và hội đồng thành phố. Chúng tôi đại diện cho tất cả giới trẻ và làm việc để:

• Trao quyền cho thanh niên theo đuổi sự nghiệp và khuyến khích họ tham gia hoạt động dân sự thông qua các sự kiện và sáng kiến ​​ở địa phương và toàn thành phố.
• Thúc đẩy một không gian an toàn, hòa nhập và dễ tiếp cận cho thanh thiếu niên ở San Jose để thể hiện niềm đam mê và sự quan tâm của họ.
• Cung cấp khả năng tiếp cận và hỗ trợ công bằng cho các cộng đồng thanh thiếu niên bị thiệt thòi.
• Nâng cao nhận thức về các vấn đề và cơ hội khác nhau cho giới trẻ San Jose.
• Tư vấn và nhắc nhở Hội đồng Thành phố hành động dựa trên các ưu tiên và ý kiến ​​đóng góp của thanh niên.

Viết bởi Aroshi Ghosh (Học sinh cuối cấp tại trường trung học Leland)

Video Quyền tự chủ cho hệ thống không người lái kể về công việc của Amir Quayumi với robot thông minh đã chứng minh rằng hệ thống thông minh đã trở thành một phần không thể thiếu trong hoạt động của Hải quân và Thủy quân lục chiến Hoa Kỳ. Trên thực tế, ngay từ năm 1917, Hải quân Hoa Kỳ đã sử dụng máy bay không người lái điều khiển bằng sóng vô tuyến để chống lại tàu ngầm Đức. Sau vụ tấn công ngày 11 tháng 2001 năm XNUMX, CIA cũng sử dụng các hệ thống tự động không người lái để tiến hành các hoạt động bí mật gây chết người chống lại các nhóm chiến binh. Cựu Bộ trưởng Quốc phòng, James N. Mattis, dự đoán trí tuệ nhân tạo (AI), công nghệ cơ bản đằng sau những phương tiện không người lái này, sẽ thay đổi “bản chất cơ bản của chiến tranh” và quân đội của chúng ta sẽ chỉ trở thành những bóng ma.torcủa cuộc chiến.

Tại sao AI có đạo đức lại quan trọng đến vậy?

Nguyên tắc Peter Parker quy định rằng “có sức mạnh lớn sẽ có trách nhiệm lớn” và đạo đức phải là nền tảng để xác định cách các lực lượng vũ trang của chúng ta triển khai công nghệ AI. Suy cho cùng, công nghệ biến khoa học viễn tưởng thành hiện thực cũng đặt ra những thách thức nghiêm trọng cho quân đội của chúng ta vì những ứng dụng độc đáo và tác động khó lường của con người. Những bộ phim khoa học viễn tưởng của Hollywood như 2001: A Space Odyssey và Blade Runner đã trình bày một tầm nhìn lạc hậu đáng báo động về AI mà không đánh giá đúng khả năng của những công nghệ thông minh này trong việc giải quyết các vấn đề, chẳng hạn như biến đổi khí hậu, tính bền vững và cứu trợ thiên tai trong khi vẫn giữ an toàn cho quân đội của chúng ta.

Mặc dù có sự phấn khích đáng kể về việc sử dụng phương tiện robot và vũ khí tự động để bảo vệ chiến binh con người và đơn giản hóa việc ra quyết định cho các nhà phân tích, nhưng cũng có mức độ lo lắng tương đương đối với robot sát thủ và công nghệ nhận dạng khuôn mặt không chính xác gây nhầm lẫn cho mục tiêu. Thao tác dữ liệu, ghi dữ liệu không hoàn hảo và lựa chọn dữ liệu đào tạo chất lượng là một số thách thức mà việc triển khai hiệu quả AI trong quân đội phải đối mặt. Do đó, điều bắt buộc là chúng tôi phải nghĩ xa hơn việc sử dụng AI để đạt được sự xuất sắc trong chiến đấu và xem xét các tác động về mặt pháp lý, xã hội và đạo đức khi triển khai công nghệ đầy hứa hẹn này.

Như Đại tá Katherine Powell đã nói trong bộ phim năm 2015 Quan sát bầu trời, “Có nhiều thứ đang bị đe dọa hơn những gì bạn thấy trong hình ảnh này” làm nổi bật tình thế tiến thoái lưỡng nan về mặt đạo đức của chiến tranh hiện đại vốn phụ thuộc vào công nghệ và máy bay tự hành. Cuộc tấn công bằng máy bay không người lái trong phim vào trại khủng bố al Shabaab không chỉ mở ra một cuộc tranh luận về thiệt hại tài sản thế chấp có thể chấp nhận được mà còn hướng dẫn chúng ta qua quá trình ra quyết định từng bước trong bối cảnh thực tế đang thay đổi để thương lượng về sự sống và cái chết cho bọn khủng bố.raccó liên quan.

Một câu hỏi hóc búa tương tự mà Hải quân của chúng ta phải đối mặt là xác định các giải pháp AI hiệu quả nhằm bảo vệ “tự do, duy trì sự thịnh vượng kinh tế, giữ cho các vùng biển luôn rộng mở và tự do…(và) bảo vệ lợi ích của Mỹ trên toàn cầu…” đồng thời đảm bảo rằng công nghệ này “có trách nhiệm, công bằng”. , trackhả thi, đáng tin cậy và có thể quản lý được”.

Một số vấn đề hiện tại với AI là gì?

Người ta không thể không tự hỏi liệu những cỗ máy siêu thông minh được điều khiển bằng AI có thể thực sự sao chép bản chất của trí tuệ, cảm xúc, suy nghĩ và cảm xúc của con người hay không hay liệu chúng ta chỉ đang cố gắng đưa ra các giải pháp điện toán cho mọi vấn đề vì AI đã trở thành từ thông dụng thời thượng nhất trong thế giới công nghệ. Chúng ta thường bỏ qua rằng hệ thống AI cũng có thể được tận dụng cho các nhiệm vụ lặp đi lặp lại, nhàm chán hơn trong lực lượng, chẳng hạn như dự đoán lịch trình bảo trì phương tiện, phát hiện sự bất thường để ngăn chặn các cuộc tấn công của kẻ thù và triển khai máy bay không người lái để cải thiện khả năng phát hiện mối đe dọa. Thông qua các video nổi bật, tôi đã biết được cách sử dụng tàu ngầm tự động để lập bản đồ đáy biển, dò mìn, xác định các loài cỏ biển xâm lấn và thực hiện các hoạt động cứu hộ. Tôi lấy cảm hứng từ các hệ thống chuyên gia và ứng dụng của chúng để giải quyết các vấn đề trong thế giới thực mà chúng ta phải đối mặt ngày nay.

Video trên Tàu và thuyền tự hành giới thiệu công trình của Tiến sĩ Bob Brizzolara cũng chứng minh cách các nhà nghiên cứu hải quân được truyền cảm hứng để bắt chước các dạng sống tự nhiên, chẳng hạn như thiết kế cánh hoặc vây của chim, cá và cá heo, khi phát triển các đặc điểm cấu trúc cụ thể để nâng cao khả năng di chuyển, sự khéo léo và trí thông minh của hệ thống tự trị của họ. Tiến sĩ Brizzolara giải thích cách các phương tiện tự hành hoạt động trong môi trường chưa được khám phá và có thể được triển khai trong các tình huống nguy hiểm do tính chất có thể sử dụng được của chúng.

Bất chấp những thành tựu tiên phong này, việc ra quyết định trong các tình huống quan trọng vẫn có sự tham gia của con người vì con người có khả năng bối cảnh hóa và hiểu siêu dữ liệu cao hơn một cách tự nhiên. Những quan sát này củng cố niềm tin của tôi rằng AI phải được tận dụng một cách thích hợp và tiết kiệm chi phí để giải quyết các vấn đề khác nhau trong lực lượng vũ trang. AI không phải là thuốc chữa bách bệnh nhưng có thể được sử dụng để nâng cao hiệu quả trong các lĩnh vực cụ thể và giúp cuộc sống của chúng ta dễ dàng hơn. Tuy nhiên, ở những lĩnh vực khác, trí thông minh của con người vẫn có lợi thế hơn.

Giải pháp là gì?

Chiến lược tối ưu để hiện đại hóa Hải quân cho đến khi việc phát triển AI có thể được tin cậy trong mọi tình huống chiến đấu là xác định các nhiệm vụ bằng các quy tắc và khuôn mẫu để chúng tôi có thể tự động hóa các trường hợp sử dụng có thể dự đoán được và không gây gián đoạn. Bằng cách kết hợp công nghệ từ khu vực tư nhântor trong các chức năng hỗ trợ và phi chiến đấu thay vì thiết kế chúng từ đầu, chúng ta có thể sử dụng AI một cách hiệu quả trong các lĩnh vực như huấn luyện tại hiện trường, bảo trì, quản trị, chiến lược trò chơi chiến tranh, hậu cần chuỗi cung ứng và đánh giá tính cách. Bằng cách ưu tiên tích hợp cơ sở dữ liệu cũ vào hệ thống Đám mây và AI, chúng tôi có thể đảm bảo rằng dữ liệu cung cấp cho hệ thống AI là chính xác, đáng tin cậy, không tốn kém, hoạt động và bảo mật. Cuối cùng, việc xác định cách máy móc và con người có thể làm việc cùng nhau một cách liền mạch sẽ giúp tạo ra các giải pháp AI lý tưởng. Một số sáng kiến, chẳng hạn như Thử thách lớn về AI của Hải quân Avenger đã được Bộ Quốc phòng đưa ra phối hợp với quân đội, phòng thí nghiệm hải quân.tories và Trung tâm trí tuệ nhân tạo chung để kết hợp tốt hơn các công nghệ AI vào đội tàu.

AI tự học sử dụng mạng lưới thần kinh dựa trên sinh học với cách tiếp cận “xem và học hỏi” để “tích lũy kinh nghiệm, kiến ​​thức và kỹ năng” có khả năng nhất định trong việc xác định hành động và cung cấp bối cảnh giải thích sự cần thiết của những hành động đó. Tuy nhiên, các thuật toán AI học máy này cũng dễ bị nhiễm độc và sai lệch dữ liệu.

Ảnh hưởng của việc đầu độc dữ liệu và sai lệch là gì?

Yêu cầu cơ bản của các giải pháp AI khả thi dựa trên học máy là quyền truy cập liên tục vào dữ liệu đa dạng và không có lỗi. Đây là một thách thức đáng kể đối với Hải quân do một số mặttors, chẳng hạn như storcơ sở dữ liệu cũ, kết nối Internet kém, phụ thuộc vào phần mềm nguồn mở, hệ thống bảo mật lỗi thời, giao diện người dùng kém và chi phí thiết kế công nghệ độc quyền. Đào tạo các mô hình deep learning cũng có thể là một quá trình chậm và tốn nhiều tài nguyên, đòi hỏi sức mạnh tính toán rất lớn.

Một lựa chọn là triển khai ban đầu các giải pháp AI được áp dụng từ môi trường riêng tư.tor xây dựng cơ sở hạ tầng để áp dụng công nghệ AI. Video trên Khoa học dữ liệu với Reece Koe nhấn mạnh nỗ lực này nhằm tạo ra các hệ thống thông minh tốt hơn. Dự án Maven, do Lầu Năm Góc khởi xướng, sử dụng máy học để sắp xếp dữ liệu giám sát và trinh sát tình báo bao gồm video, giấy, ổ cứng máy tính, ổ USB, v.v., sau đó có thể được các nhà phân tích xem xét.

Hiệu ứng hộp đen là gì?

Trước khi triển khai quy mô lớn các hệ thống tự trị tại hiện trường, việc hiểu biết thấu đáo về logic và trình tự của quá trình ra quyết định là rất quan trọng. Thách thức của việc “làm cho máy học giải thích quá trình ra quyết định của nó cho con người” là biên giới phát triển tiếp theo. Nếu không có sự kiểm soát, trackhả năng và trách nhiệm giải trình, các lực lượng vũ trang không thể sử dụng công nghệ AI một cách đáng tin cậy. Khi nói đến chiến tranh thực sự, việc ra quyết định không thể dễ dàng được giao cho máy móc. Như Stephen Thaler của Imagination Engines, một chuyên gia về AI cho robot và máy bay không người lái, đã nói: “Các đô đốc muốn ai đó phải hầu tòa khi mọi thứ trở nên tồi tệ”. Ngoài ra, trách nhiệm pháp lý của robot hiện chưa rõ ràng theo luật pháp quốc tế và các quyết định của robot phải đi đôi với các tiêu chuẩn đạo đức do xã hội và luật pháp quốc tế xác định.

Hộp đen xung quanh việc học máy có thể được làm sáng tỏ ở một mức độ nhất định. Cây quyết định có thể được sử dụng để chạy mô phỏng với nhiều điểm dữ liệu và được liên kết với các hành động tương ứng. Các mạng lưới thần kinh cụ thể có thể được tách biệt dựa trên chức năng và trọng số được chỉ định của chúng để xác định tính logic của việc ra quyết định. Tuy nhiên, cách tiếp cận này không giải thích tính logic của các quyết định của AI mà thay vào đó vạch ra lộ trình có thể dự đoán được dựa trên các điều kiện nhất định. Do đó, học máy cũng có thể tạo ra nhiều kết quả dương tính giả và những lời giải thích đơn giản, không khả thi dựa trên dữ liệu hạn chế, điều này khiến độ tin cậy của AI bị nghi ngờ.

Niềm tin là thành phần quan trọng nhất để tạo nên sức mạnh tổng hợp tối ưu giữa con người và máy móc trong Hải quân vì cái giá phải trả cho những quyết định sai lầm cao hơn đáng kể. Ngày nay, các hệ thống AI không thể giải thích đầy đủ các quyết định và hành động của chúng cho người dùng và dữ liệu không chính xác cũng như các thuật toán không đáng tin cậy sẽ ngăn cản sự hợp tác hiệu quả giữa con người và máy móc.

Các mô hình AI có thể giải thích được có thể kết hợp hiệu quả với các kỹ thuật giao diện người-máy tính thông minh và toán học logic ký hiệu để đưa ra lời giải thích về tâm lý đằng sau AI mà không ảnh hưởng đến độ chính xác dự đoán.racy và hiệu suất. Tương lai của AI trong lực lượng vũ trang sẽ mạnh mẽ hơn nếu chúng ta có thể tạo thành công các giải pháp AI minh bạch nhằm ngăn chặn sự thiên vị rõ ràng hoặc bất hợp pháp, hiểu bối cảnh và môi trường hoạt động, giao tiếp với các máy thông minh khác và tham gia vào các cuộc đối thoại giải thích dễ hiểu với người cuối cùng. người dùng. Đây là thời điểm thú vị trong lĩnh vực AI và hệ thống tự trị và nhiệm vụ của chúng ta là xác định các cơ hội thích hợp để sử dụng công nghệ này một cách có đạo đức.

XEM THÊM VIDEO ĐỂ XEM CÔNG NGHỆ ĐƯỢC SỬ DỤNG TRONG QUÂN ĐỘI NHƯ THẾ NÀO

Công trình được trích dẫn

• Ưu điểm và thách thức của quyền tự chủ máy bay không người lái trong thời kỳ hậu anh hùng - luận án
• Trí tuệ nhân tạo đặt ra câu hỏi về bản chất của chiến tranh: Mattis
• Eye in the Sky và những tình huống khó xử về mặt đạo đức của chiến tranh hiện đại
• Sứ mệnh Hải quân Hoa Kỳ
• Nguyên tắc AI: Khuyến nghị về việc sử dụng trí tuệ nhân tạo có đạo đức của Bộ Quốc phòng
• Hải quân tương lai: Ứng dụng ngắn hạn của trí tuệ nhân tạo
• Thử thách lớn của hải quân Avenger
• Buổi bình minh của AI trong chiến tranh hải quân
• 4 thách thức đối với Hải quân khi có thêm nhiều máy bay không người lái hoạt động dưới nước
• Ưu điểm và thách thức của quyền tự chủ máy bay không người lái trong thời kỳ hậu anh hùng - luận án
• AI có thể giải thích được là gì và tại sao quân đội lại cần nó?
• Trí tuệ nhân tạo có thể giải thích được (XAI)
• Ứng dụng quân sự của trí tuệ nhân tạo