Đây là 5 công nghệ dystopian nhất năm 2020 và hơn thế nữa
Từ CRISPR đến deepfakes, đây là những công nghệ có thể gây ra tai họa trong tương lai.
[Nguồn video: bãi biển / Videvo; v_alex / iStock]
BỞI MARK SULLIVANĐỌC 8 PHÚT
Công nghệ luôn luôn tốt và xấu. Nhưng chúng ta đang sống trong thời đại mà mọi thứ đều được vũ khí hóa các ý tưởng, hình ảnh, văn bản cổ xưa, thành kiến và thậm chí cả con người . Và công nghệ cung cấp các công cụ để làm điều đó dễ dàng hơn, nhanh hơn và với ít tài nguyên hơn.
Các mối đe dọa cũ như đầu đạn nguyên tử vẫn là một mối nguy hiểm nghiêm trọng, nhưng chúng khó có thể cung cấp và mất thời gian và tiền bạc để chế tạo. Việc cung cấp hình ảnh độc hại hoặc phần mềm độc hại cho hàng triệu hoặc hàng tỷ người, hoặc thậm chí các gen được chỉnh sửa xấu cho các thế hệ tương lai, thật dễ dàng bằng cách so sánh. Các công nghệ khác như trí tuệ nhân tạo có thể có những tác động lâu dài, lâu dài mà hiện tại chúng ta không hoặc không thể hiểu được.
Chúng ta đang sống trong một thời kỳ kỳ diệu về công nghệ, nhưng nhiều công nghệ mới đẹp nhất đi kèm với tiềm năng gây hại của chính họ. Đây là năm trong số các công nghệ dystopian nhất của năm 2020 và hơn thế nữa.
TỘI PHẠM MẠNG VÀ RANSOMWARE
Mùa hè này, Cơ quan An ninh Cơ sở hạ tầng và An ninh mạng (CISA) gọi ransomware là rủi ro an ninh mạng có thể nhìn thấy rõ nhất trên các mạng của quốc gia chúng ta. CISA nói rằng nhiều vụ tấn công, trong đó một tội phạm mạng chiếm giữ và mã hóa dữ liệu của một người hoặc tổ chức và sau đó tống tiền nạn nhân để lấy tiền mặt không bao giờ được báo cáo vì tổ chức nạn nhân trả tiền cho tội phạm mạng và không muốn công khai các hệ thống không an toàn của mình.
Tội phạm mạng thường nhắm mục tiêu vào những người lớn tuổi gặp khó khăn trong việc phân biệt trung thực với nội dung không trung thực trực tuyến thông qua phần mềm độc hại được đính kèm trong tệp đính kèm email hoặc cửa sổ bật lên tại một trang web bị nhiễm. Nhưng quy mô của các cuộc tấn công vào các tập đoàn lớn, bệnh viện, chính phủ và các cơ quan nhà nước đang gia tăng. Các chính phủ đặc biệt đã trở thành mục tiêu hàng đầu vì dữ liệu nhạy cảm mà họ nắm giữ và khả năng trả tiền chuộc cao, với 70 chính quyền tiểu bang và địa phương bị tấn công bằng ransomware vào năm 2019 .
Một số dữ liệu, như thông tin về sức khỏe, có giá trị hơn nhiều đối với chủ sở hữu và có thể mang lại một khoản tiền lớn hơn nếu được giữ để đòi tiền chuộc. Kẻ trộm có thể nắm bắt hoặc cách ly các khối lớn thông tin lâm sàng quan trọng đối với việc chăm sóc bệnh nhân, như kết quả xét nghiệm hoặc dữ liệu thuốc. Khi cuộc sống bị đe dọa, một bệnh viện ở vị trí kém để thương lượng. Một bệnh viện thực sự đóng cửa vĩnh viễn vào tháng 11 sau vụ tấn công ransomware vào tháng 8.
Nó có thể sẽ trở nên tồi tệ hơn. Bộ An ninh Nội địa cho biết vào năm 2017 rằng các cuộc tấn công của ransomware có thể nhằm vào một cơ sở hạ tầng quan trọng như các tiện ích nước. Và các công cụ cần thiết để thực hiện các cuộc tấn công ransomware đang trở nên khả dụng hơn đối với các nhà khai thác nhỏ hơn, với các tổ chức tội phạm như Cerber và Petya bán các công cụ ransomware như một dịch vụ và cắt giảm tiền chuộc trong các cuộc tấn công thành công.
CÁC GEN CÓ THỂ CHỈNH SỬA, CRISPR VÀ CÁC Ổ ĐĨA GEN
Ngày nay, các nhà khoa học sử dụng các công cụ phần mềm như CRISPR để chỉnh sửa gen và một số công việc này đã gây tranh cãi. Nhà khoa học Trung Quốc He Jiankui bị chỉ trích rộng rãi vì chỉnh sửa gen trong phôi người để khiến chúng kháng lại virus AIDS, bởi vì những thay đổi mà ông thực hiện có thể được truyền qua các thế hệ với những hậu quả khó lường.
Chính những tác động thế hệ dài hạn này khiến khoa học trẻ về chỉnh sửa gen trở nên nguy hiểm. Một trong những ví dụ đáng sợ nhất của điều này là một thứ gọi là ổ gen. Trong thế giới tự nhiên, một gen có 50% cơ hội truyền lại cho thế hệ tiếp theo. Nhưng một ổ gen được truyền cho thế hệ tiếp theo 100% thời gian và làm tăng tính trạng mà nó mang theo mỗi lần cho đến khi toàn bộ quần thể sinh vật mang gen và tính trạng. Các nhà khoa học đã đề xuất rằng các ổ đĩa gen có thể mang một đặc điểm được tìm thấy trong một loài cỏ dại xâm lấn sẽ xóa bỏ tính kháng thuốc của cây trồng.
Giới thiệu khả năng miễn dịch với virus AIDS ở người có vẻ như là một ý tưởng tốt. Nhưng mọi thứ có thể đi sai, và những hệ lụy có thể từ có hại đến khủng khiếpTheo Stanford tổng hợp sinh học Christina Smolke ý kiến 's trong một bảng điều khiển trên công nghệ gen trong ổ gen 2016. Một thể đột biến vì nó làm theo cách của mình qua nhiều thế hệ và bắt đầu cho phép các rối loạn di truyền như bệnh ưa chảy máu hoặc thiếu máu hồng cầu hình liềm để “đi cùng Để ảnh hưởng đến thế hệ tương lai.
Ngay cả khi ổ gen hoạt động theo kế hoạch trong một quần thể sinh vật, tính trạng di truyền tương tự có thể gây hại nếu nó được đưa vào một quần thể khác cùng loài, theo một bài báo được đăng trên tạp chí Nature Reviews của Jackson Champer , Anna Hội trưởng và Omar Akbari. Theo Akbari , mối nguy hiểm là các nhà khoa học tạo ra các ổ gen phía sau cánh cửa đóng kín và không có đánh giá ngang hàng. Nếu ai đó cố tình hoặc vô ý đưa một ổ gen gây hại vào người, có lẽ một trong số đó đã phá hủy khả năng kháng cúm của chúng ta, điều đó có thể có nghĩa là sự kết thúc của loài.
THÔNG TIN SAI LỆCH Ở DẠNG DEEPFAKES
Trong lĩnh vực chính trị, thông tin sai lệch không có gì mới. Trước đó, trong lịch sử của chúng tôi, nó được gọi là thủ đoạn bẩn thỉu, và sau đó, chuột chém, bá đạo và đề cập đến việc xuất bản một câu chuyện phỉ báng về một đối thủ hoặc giương cao một dấu hiệu bị đóng kín bên ngoài một địa điểm bỏ phiếu trong lãnh thổ của kẻ thù.
Công nghệ đã biến loại điều này thành một nghệ thuật đen tối hơn. Các thuật toán có thể xác định và phân tích hình ảnh đã phát triển đến mức có thể tạo ra các đoạn phim hoặc đoạn phim thuyết phục mô tả một người đang làm hoặc nói điều gì đó mà họ thực sự không làm. Những nội dung sâu sắc như vậy, được tạo ra và triển khai một cách khéo léo với đúng đối tượng vào đúng thời điểm, có thể gây ra tác hại nghiêm trọng cho các cá nhân hoặc thậm chí gây thiệt hại nặng nề cho cả quốc gia. Hãy tưởng tượng một Tổng thống Trump sâu sắc sẽ vào Facebook để tuyên chiến với Triều Tiên. Hoặc một cuộc tranh luận sâu sắc về đối thủ năm 2020 của Trump nói điều gì đó miệt thị về cử tri da đen.
Sự lo lắng về sự can thiệp của công nghệ cao trong cuộc bầu cử tổng thống năm 2020 là rất cao. Nó có thể xuất hiện dưới nhiều hình thức, từ hack trên hệ thống bầu cử đến quảng cáo trên mạng xã hội được thiết kế đặc biệt để giữ cho các nhóm mục tiêu không bỏ phiếu. Do các mối đe dọa mà Deepfakes đặt ra, Facebook và các công ty công nghệ khác đang cố gắng phát triển các công cụ phát hiện nhanh chóng tìm thấy các video này trên mạng xã hội trước khi chúng lan truyền.
MÁY PHÂN CỰC KÍCH HOẠT PHƯƠNG TIỆN TRUYỀN THÔNG XÃ HỘI
Deepfakes là một phần rất nguy hiểm vì các mạng xã hội tự nhiên truyền bá các thông điệp chính trị kịch tính nhất. Mô hình này tạo ra nhiều lượt xem trang, sự tham gia và doanh thu quảng cáo, đồng thời khuếch đại và hợp pháp hóa ý kiến của mọi người và các nhóm mà trước đó trong lịch sử sẽ được coi là rìa. Kết hợp điều này với khả năng của các nhà quảng cáo chính trị để nhắm mục tiêu hẹp các thông điệp chính trị vào những khán giả đã có xu hướng tin họ. Các quảng cáo không có ý thuyết phục nhiều như họ muốn khiến cử tri phải thực hiện một số hành động, như tổ chức một cuộc biểu tình, bỏ phiếu hoặc chỉ cần nhấp vào chia sẻ.
Những yếu tố này đã giúp làm cho các nền tảng truyền thông xã hội trở thành những cỗ máy phân cực chính trị mạnh mẽ trong đó thiên vị xác nhận là nhà điều hành chính. Họ cách xa quảng trường công cộng trên đỉnh cao để có bài phát biểu miễn phí , diễn ngôn chính trị có ý nghĩa và tranh luận mà Giám đốc điều hành Facebook Mark Zuckerberg thích nói . Facebook là một nơi để trao đổi tin tức và meme mà bạn đồng ý và để trở nên gắn bó hơn trong thế giới quan chính trị mà bạn đã giữ.
Nếu chính trị trong một nền dân chủ là quá trình hướng dẫn một xã hội thông qua diễn ngôn và thỏa hiệp, thì các công ty công nghệ như Facebook đang làm tổn thương nhiều hơn là giúp đỡ. Tệ hơn nữa, Facebook từ chối đảm bảo tính trung thực của các quảng cáo chính trị của mình báo hiệu rằng các lý thuyết âm mưu và các sự kiện thay thế khác là một cách hợp pháp và bình thường. Khi các sự kiện cơ bản của thế giới liên tục xảy ra tranh chấp, không có cơ sở để thảo luận.
MÁY TÍNH THÔNG MINH NHÂN TẠO
Khi bạn nói về trí thông minh nhân tạo, hầu như luôn có ai đó ở đó để đưa ra những lời bình tĩnh về cách AI sẽ làm việc với con người và không chống lại họ . Điều đó có thể hoàn toàn đúng bây giờ, nhưng quy mô và độ phức tạp của mạng lưới thần kinh đang phát triển nhanh chóng. Elon Musk đã nói rằng AI là mối nguy hiểm lớn nhất đối với loài người.
Tại sao? Việc tạo ra và đào tạo các mạng lưới thần kinh sâu sắc là một chút nghệ thuật đen tối, với những bí mật ẩn giấu trong một hộp đen quá phức tạp đối với hầu hết mọi người. Mạng lưới thần kinh được thiết kế trong một quá trình dài và phức tạp để tạo ra một kết quả mong muốn. Các lựa chọn được đưa ra trong quá trình đó mang nhiều kinh nghiệm và bản năng của nhà thiết kế hơn là các tiêu chuẩn và nguyên tắc đã được thiết lập , củng cố sức mạnh của việc tạo ra AI trong tay một số lượng người tương đối nhỏ.
Sự thiên vị của con người đã được đào tạo thành các mạng lưới thần kinh , nhưng điều đó có vẻ tầm thường so với những gì có thể xảy ra. Một nhà khoa học máy tính với ý định xấu có thể đưa ra những khả năng nguy hiểm. Theo nhà khoa học dữ liệu và người sáng lập Snips.ai Rand Hindi, việc một diễn viên xấu có thể chèn hình ảnh vào dữ liệu đào tạo được sử dụng cho các hệ thống lái xe tự trị có thể dẫn đến việc AI quyết định vỉa hè đông đúc là điều tốt. nơi để lái xe.
Nỗi sợ hãi lớn hơn là các mạng lưới thần kinh, được cung cấp đủ sức mạnh tính toán, có thể học hỏi từ dữ liệu nhanh hơn nhiều so với con người. Họ không chỉ có thể suy luận nhanh hơn não người , mà còn có khả năng mở rộng hơn rất nhiều. Hàng trăm máy móc có thể làm việc cùng nhau trên cùng một vấn đề phức tạp. Khi so sánh, cách con người chia sẻ thông tin với nhau rất chậm và bị hạn chế về băng thông. Các công ty công nghệ lớn đang làm việc trên các mạng nơ ron thần kinh thế hệ tình cảm, xử lý hàng núi dữ liệu để tạo ra các kết quả hoàn toàn mới và mới lạ, như các chatbot có thể thực hiện các cuộc trò chuyện với con người hoặc các tác phẩm âm nhạc nguyên bản .
Trường hợp này là tất cả hàng đầu, và liệu con người có thể theo kịp, là một chủ đề để tranh luận. Musk tin rằng khi các AI bắt đầu học hỏi và suy luận ở quy mô ngày càng lớn hơn, một trí thông minh của người Bỉ có thể phát triển ở đâu đó sâu bên trong các lớp của mạng. Đây là thứ nguy hiểm nhất và nó khó nhất. . . Hãy vòng tay ra vì đó không phải là một vấn đề vật lý. Đây là một thông tin tình báo sâu sắc trong mạng lưới, ông Musk Musk nói trong bài phát biểu tháng 7 trước Hiệp hội Thống đốc Quốc gia.
Loại tình cảm mà Musk mô tả hiện không tồn tại và có lẽ chúng ta cách xa nó hàng thập kỷ. Nhưng hầu hết các chuyên gia tin rằng nó sẽ đến trong thế kỷ này. Theo phản hồi tổng hợp của 352 nhà nghiên cứu AI trong một cuộc khảo sát năm 2016 , AI được dự đoán sẽ có 50% cơ hội vượt quá khả năng của con người trong tất cả các nhiệm vụ trong 45 năm.
CHỈ LÀ KHỞI ĐẦU
Những ví dụ này chỉ là giật gân nhất trong các mối đe dọa công nghệ mà chúng ta phải đối mặt hôm nay và trong tương lai. Có nhiều mối đe dọa ngắn hạn khác phải lo lắng. Theo nhiều cách, công nghệ của chúng tôi và các công ty công nghệ của chúng tôi vẫn là mối đe dọa đối với môi trường . Một số công ty công nghệ lớn nhất của chúng tôi, như Seagate, Intel , và Hikvision công ty Trung Quốc, nhà cung cấp camera giám sát lớn nhất thế giới, đang tạo điều kiện cho một triều ngày càng tăng của giám sát trên toàn thế giới. Ngành công nghiệp quảng cáo đã bình thường hóa việc phá hủy quyền riêng tư cá nhân trực tuyến . Chính phủ Hoa Kỳ đang ngồi trên tay khi nói đến việc đảm bảo công nghệ bỏ phiếu sẽ được sử dụng trong cuộc bầu cử năm 2020.
Sẽ có một sự hợp tác được cải thiện nhiều giữa cộng đồng công nghệ và các cơ quan quản lý của chính phủ để đảm bảo chúng tôi luôn đứng về phía công nghệ hứa hẹn nhất của mình.
[Nguồn video: bãi biển / Videvo; v_alex / iStock]
BỞI MARK SULLIVANĐỌC 8 PHÚT
Công nghệ luôn luôn tốt và xấu. Nhưng chúng ta đang sống trong thời đại mà mọi thứ đều được vũ khí hóa các ý tưởng, hình ảnh, văn bản cổ xưa, thành kiến và thậm chí cả con người . Và công nghệ cung cấp các công cụ để làm điều đó dễ dàng hơn, nhanh hơn và với ít tài nguyên hơn.
Các mối đe dọa cũ như đầu đạn nguyên tử vẫn là một mối nguy hiểm nghiêm trọng, nhưng chúng khó có thể cung cấp và mất thời gian và tiền bạc để chế tạo. Việc cung cấp hình ảnh độc hại hoặc phần mềm độc hại cho hàng triệu hoặc hàng tỷ người, hoặc thậm chí các gen được chỉnh sửa xấu cho các thế hệ tương lai, thật dễ dàng bằng cách so sánh. Các công nghệ khác như trí tuệ nhân tạo có thể có những tác động lâu dài, lâu dài mà hiện tại chúng ta không hoặc không thể hiểu được.
Chúng ta đang sống trong một thời kỳ kỳ diệu về công nghệ, nhưng nhiều công nghệ mới đẹp nhất đi kèm với tiềm năng gây hại của chính họ. Đây là năm trong số các công nghệ dystopian nhất của năm 2020 và hơn thế nữa.
TỘI PHẠM MẠNG VÀ RANSOMWARE
Mùa hè này, Cơ quan An ninh Cơ sở hạ tầng và An ninh mạng (CISA) gọi ransomware là rủi ro an ninh mạng có thể nhìn thấy rõ nhất trên các mạng của quốc gia chúng ta. CISA nói rằng nhiều vụ tấn công, trong đó một tội phạm mạng chiếm giữ và mã hóa dữ liệu của một người hoặc tổ chức và sau đó tống tiền nạn nhân để lấy tiền mặt không bao giờ được báo cáo vì tổ chức nạn nhân trả tiền cho tội phạm mạng và không muốn công khai các hệ thống không an toàn của mình.
Tội phạm mạng thường nhắm mục tiêu vào những người lớn tuổi gặp khó khăn trong việc phân biệt trung thực với nội dung không trung thực trực tuyến thông qua phần mềm độc hại được đính kèm trong tệp đính kèm email hoặc cửa sổ bật lên tại một trang web bị nhiễm. Nhưng quy mô của các cuộc tấn công vào các tập đoàn lớn, bệnh viện, chính phủ và các cơ quan nhà nước đang gia tăng. Các chính phủ đặc biệt đã trở thành mục tiêu hàng đầu vì dữ liệu nhạy cảm mà họ nắm giữ và khả năng trả tiền chuộc cao, với 70 chính quyền tiểu bang và địa phương bị tấn công bằng ransomware vào năm 2019 .
Một số dữ liệu, như thông tin về sức khỏe, có giá trị hơn nhiều đối với chủ sở hữu và có thể mang lại một khoản tiền lớn hơn nếu được giữ để đòi tiền chuộc. Kẻ trộm có thể nắm bắt hoặc cách ly các khối lớn thông tin lâm sàng quan trọng đối với việc chăm sóc bệnh nhân, như kết quả xét nghiệm hoặc dữ liệu thuốc. Khi cuộc sống bị đe dọa, một bệnh viện ở vị trí kém để thương lượng. Một bệnh viện thực sự đóng cửa vĩnh viễn vào tháng 11 sau vụ tấn công ransomware vào tháng 8.
Nó có thể sẽ trở nên tồi tệ hơn. Bộ An ninh Nội địa cho biết vào năm 2017 rằng các cuộc tấn công của ransomware có thể nhằm vào một cơ sở hạ tầng quan trọng như các tiện ích nước. Và các công cụ cần thiết để thực hiện các cuộc tấn công ransomware đang trở nên khả dụng hơn đối với các nhà khai thác nhỏ hơn, với các tổ chức tội phạm như Cerber và Petya bán các công cụ ransomware như một dịch vụ và cắt giảm tiền chuộc trong các cuộc tấn công thành công.
CÁC GEN CÓ THỂ CHỈNH SỬA, CRISPR VÀ CÁC Ổ ĐĨA GEN
Ngày nay, các nhà khoa học sử dụng các công cụ phần mềm như CRISPR để chỉnh sửa gen và một số công việc này đã gây tranh cãi. Nhà khoa học Trung Quốc He Jiankui bị chỉ trích rộng rãi vì chỉnh sửa gen trong phôi người để khiến chúng kháng lại virus AIDS, bởi vì những thay đổi mà ông thực hiện có thể được truyền qua các thế hệ với những hậu quả khó lường.
Chính những tác động thế hệ dài hạn này khiến khoa học trẻ về chỉnh sửa gen trở nên nguy hiểm. Một trong những ví dụ đáng sợ nhất của điều này là một thứ gọi là ổ gen. Trong thế giới tự nhiên, một gen có 50% cơ hội truyền lại cho thế hệ tiếp theo. Nhưng một ổ gen được truyền cho thế hệ tiếp theo 100% thời gian và làm tăng tính trạng mà nó mang theo mỗi lần cho đến khi toàn bộ quần thể sinh vật mang gen và tính trạng. Các nhà khoa học đã đề xuất rằng các ổ đĩa gen có thể mang một đặc điểm được tìm thấy trong một loài cỏ dại xâm lấn sẽ xóa bỏ tính kháng thuốc của cây trồng.
Giới thiệu khả năng miễn dịch với virus AIDS ở người có vẻ như là một ý tưởng tốt. Nhưng mọi thứ có thể đi sai, và những hệ lụy có thể từ có hại đến khủng khiếpTheo Stanford tổng hợp sinh học Christina Smolke ý kiến 's trong một bảng điều khiển trên công nghệ gen trong ổ gen 2016. Một thể đột biến vì nó làm theo cách của mình qua nhiều thế hệ và bắt đầu cho phép các rối loạn di truyền như bệnh ưa chảy máu hoặc thiếu máu hồng cầu hình liềm để “đi cùng Để ảnh hưởng đến thế hệ tương lai.
Ngay cả khi ổ gen hoạt động theo kế hoạch trong một quần thể sinh vật, tính trạng di truyền tương tự có thể gây hại nếu nó được đưa vào một quần thể khác cùng loài, theo một bài báo được đăng trên tạp chí Nature Reviews của Jackson Champer , Anna Hội trưởng và Omar Akbari. Theo Akbari , mối nguy hiểm là các nhà khoa học tạo ra các ổ gen phía sau cánh cửa đóng kín và không có đánh giá ngang hàng. Nếu ai đó cố tình hoặc vô ý đưa một ổ gen gây hại vào người, có lẽ một trong số đó đã phá hủy khả năng kháng cúm của chúng ta, điều đó có thể có nghĩa là sự kết thúc của loài.
THÔNG TIN SAI LỆCH Ở DẠNG DEEPFAKES
Trong lĩnh vực chính trị, thông tin sai lệch không có gì mới. Trước đó, trong lịch sử của chúng tôi, nó được gọi là thủ đoạn bẩn thỉu, và sau đó, chuột chém, bá đạo và đề cập đến việc xuất bản một câu chuyện phỉ báng về một đối thủ hoặc giương cao một dấu hiệu bị đóng kín bên ngoài một địa điểm bỏ phiếu trong lãnh thổ của kẻ thù.
Công nghệ đã biến loại điều này thành một nghệ thuật đen tối hơn. Các thuật toán có thể xác định và phân tích hình ảnh đã phát triển đến mức có thể tạo ra các đoạn phim hoặc đoạn phim thuyết phục mô tả một người đang làm hoặc nói điều gì đó mà họ thực sự không làm. Những nội dung sâu sắc như vậy, được tạo ra và triển khai một cách khéo léo với đúng đối tượng vào đúng thời điểm, có thể gây ra tác hại nghiêm trọng cho các cá nhân hoặc thậm chí gây thiệt hại nặng nề cho cả quốc gia. Hãy tưởng tượng một Tổng thống Trump sâu sắc sẽ vào Facebook để tuyên chiến với Triều Tiên. Hoặc một cuộc tranh luận sâu sắc về đối thủ năm 2020 của Trump nói điều gì đó miệt thị về cử tri da đen.
Sự lo lắng về sự can thiệp của công nghệ cao trong cuộc bầu cử tổng thống năm 2020 là rất cao. Nó có thể xuất hiện dưới nhiều hình thức, từ hack trên hệ thống bầu cử đến quảng cáo trên mạng xã hội được thiết kế đặc biệt để giữ cho các nhóm mục tiêu không bỏ phiếu. Do các mối đe dọa mà Deepfakes đặt ra, Facebook và các công ty công nghệ khác đang cố gắng phát triển các công cụ phát hiện nhanh chóng tìm thấy các video này trên mạng xã hội trước khi chúng lan truyền.
MÁY PHÂN CỰC KÍCH HOẠT PHƯƠNG TIỆN TRUYỀN THÔNG XÃ HỘI
Deepfakes là một phần rất nguy hiểm vì các mạng xã hội tự nhiên truyền bá các thông điệp chính trị kịch tính nhất. Mô hình này tạo ra nhiều lượt xem trang, sự tham gia và doanh thu quảng cáo, đồng thời khuếch đại và hợp pháp hóa ý kiến của mọi người và các nhóm mà trước đó trong lịch sử sẽ được coi là rìa. Kết hợp điều này với khả năng của các nhà quảng cáo chính trị để nhắm mục tiêu hẹp các thông điệp chính trị vào những khán giả đã có xu hướng tin họ. Các quảng cáo không có ý thuyết phục nhiều như họ muốn khiến cử tri phải thực hiện một số hành động, như tổ chức một cuộc biểu tình, bỏ phiếu hoặc chỉ cần nhấp vào chia sẻ.
Những yếu tố này đã giúp làm cho các nền tảng truyền thông xã hội trở thành những cỗ máy phân cực chính trị mạnh mẽ trong đó thiên vị xác nhận là nhà điều hành chính. Họ cách xa quảng trường công cộng trên đỉnh cao để có bài phát biểu miễn phí , diễn ngôn chính trị có ý nghĩa và tranh luận mà Giám đốc điều hành Facebook Mark Zuckerberg thích nói . Facebook là một nơi để trao đổi tin tức và meme mà bạn đồng ý và để trở nên gắn bó hơn trong thế giới quan chính trị mà bạn đã giữ.
Nếu chính trị trong một nền dân chủ là quá trình hướng dẫn một xã hội thông qua diễn ngôn và thỏa hiệp, thì các công ty công nghệ như Facebook đang làm tổn thương nhiều hơn là giúp đỡ. Tệ hơn nữa, Facebook từ chối đảm bảo tính trung thực của các quảng cáo chính trị của mình báo hiệu rằng các lý thuyết âm mưu và các sự kiện thay thế khác là một cách hợp pháp và bình thường. Khi các sự kiện cơ bản của thế giới liên tục xảy ra tranh chấp, không có cơ sở để thảo luận.
MÁY TÍNH THÔNG MINH NHÂN TẠO
Khi bạn nói về trí thông minh nhân tạo, hầu như luôn có ai đó ở đó để đưa ra những lời bình tĩnh về cách AI sẽ làm việc với con người và không chống lại họ . Điều đó có thể hoàn toàn đúng bây giờ, nhưng quy mô và độ phức tạp của mạng lưới thần kinh đang phát triển nhanh chóng. Elon Musk đã nói rằng AI là mối nguy hiểm lớn nhất đối với loài người.
Tại sao? Việc tạo ra và đào tạo các mạng lưới thần kinh sâu sắc là một chút nghệ thuật đen tối, với những bí mật ẩn giấu trong một hộp đen quá phức tạp đối với hầu hết mọi người. Mạng lưới thần kinh được thiết kế trong một quá trình dài và phức tạp để tạo ra một kết quả mong muốn. Các lựa chọn được đưa ra trong quá trình đó mang nhiều kinh nghiệm và bản năng của nhà thiết kế hơn là các tiêu chuẩn và nguyên tắc đã được thiết lập , củng cố sức mạnh của việc tạo ra AI trong tay một số lượng người tương đối nhỏ.
Sự thiên vị của con người đã được đào tạo thành các mạng lưới thần kinh , nhưng điều đó có vẻ tầm thường so với những gì có thể xảy ra. Một nhà khoa học máy tính với ý định xấu có thể đưa ra những khả năng nguy hiểm. Theo nhà khoa học dữ liệu và người sáng lập Snips.ai Rand Hindi, việc một diễn viên xấu có thể chèn hình ảnh vào dữ liệu đào tạo được sử dụng cho các hệ thống lái xe tự trị có thể dẫn đến việc AI quyết định vỉa hè đông đúc là điều tốt. nơi để lái xe.
Nỗi sợ hãi lớn hơn là các mạng lưới thần kinh, được cung cấp đủ sức mạnh tính toán, có thể học hỏi từ dữ liệu nhanh hơn nhiều so với con người. Họ không chỉ có thể suy luận nhanh hơn não người , mà còn có khả năng mở rộng hơn rất nhiều. Hàng trăm máy móc có thể làm việc cùng nhau trên cùng một vấn đề phức tạp. Khi so sánh, cách con người chia sẻ thông tin với nhau rất chậm và bị hạn chế về băng thông. Các công ty công nghệ lớn đang làm việc trên các mạng nơ ron thần kinh thế hệ tình cảm, xử lý hàng núi dữ liệu để tạo ra các kết quả hoàn toàn mới và mới lạ, như các chatbot có thể thực hiện các cuộc trò chuyện với con người hoặc các tác phẩm âm nhạc nguyên bản .
Trường hợp này là tất cả hàng đầu, và liệu con người có thể theo kịp, là một chủ đề để tranh luận. Musk tin rằng khi các AI bắt đầu học hỏi và suy luận ở quy mô ngày càng lớn hơn, một trí thông minh của người Bỉ có thể phát triển ở đâu đó sâu bên trong các lớp của mạng. Đây là thứ nguy hiểm nhất và nó khó nhất. . . Hãy vòng tay ra vì đó không phải là một vấn đề vật lý. Đây là một thông tin tình báo sâu sắc trong mạng lưới, ông Musk Musk nói trong bài phát biểu tháng 7 trước Hiệp hội Thống đốc Quốc gia.
Loại tình cảm mà Musk mô tả hiện không tồn tại và có lẽ chúng ta cách xa nó hàng thập kỷ. Nhưng hầu hết các chuyên gia tin rằng nó sẽ đến trong thế kỷ này. Theo phản hồi tổng hợp của 352 nhà nghiên cứu AI trong một cuộc khảo sát năm 2016 , AI được dự đoán sẽ có 50% cơ hội vượt quá khả năng của con người trong tất cả các nhiệm vụ trong 45 năm.
CHỈ LÀ KHỞI ĐẦU
Những ví dụ này chỉ là giật gân nhất trong các mối đe dọa công nghệ mà chúng ta phải đối mặt hôm nay và trong tương lai. Có nhiều mối đe dọa ngắn hạn khác phải lo lắng. Theo nhiều cách, công nghệ của chúng tôi và các công ty công nghệ của chúng tôi vẫn là mối đe dọa đối với môi trường . Một số công ty công nghệ lớn nhất của chúng tôi, như Seagate, Intel , và Hikvision công ty Trung Quốc, nhà cung cấp camera giám sát lớn nhất thế giới, đang tạo điều kiện cho một triều ngày càng tăng của giám sát trên toàn thế giới. Ngành công nghiệp quảng cáo đã bình thường hóa việc phá hủy quyền riêng tư cá nhân trực tuyến . Chính phủ Hoa Kỳ đang ngồi trên tay khi nói đến việc đảm bảo công nghệ bỏ phiếu sẽ được sử dụng trong cuộc bầu cử năm 2020.
Sẽ có một sự hợp tác được cải thiện nhiều giữa cộng đồng công nghệ và các cơ quan quản lý của chính phủ để đảm bảo chúng tôi luôn đứng về phía công nghệ hứa hẹn nhất của mình.
Nhận xét
Đăng nhận xét