ChatGPT gây rối loạn tâm thần, chiêu lừa đảo mới 'nhắn tin nhầm số'

ChatGPT gây rối loạn tâm thần; Mánh khóe lừa đảo mới "nhắn tin nhầm số”,... là những thông tin nổi bật trong bản tin công nghệ thứ 7 tuần này.

ChatGPT gây rối loạn tâm thần

Chủ đề “ChatGPT gây rối loạn tâm thần” trên Reddit – diễn đàn đông thành viên nhất thế giới – đang thu hút sự quan tâm lớn. Tác giả của bài đăng, @Zestyclementinejuce – nữ giáo viên 27 tuổi – nói ChatGPT thuyết phục chồng cô tin rằng anh ấy là “đấng cứu thế tiếp theo”, cũng như giải đáp mọi vấn đề của vũ trụ.

Dù mới xuất hiện 7 ngày, các thành viên đã để lại hơn 1.300 bình luận bên dưới, chia sẻ về những trải nghiệm riêng với chatbot của OpenAI.

Đặc biệt, nhiều ý kiến cho biết AI khiến bạn bè, người thân của họ trở nên hoang tưởng khi nghĩ mình là người được lựa chọn cho các sứ mệnh thiêng liêng, hay sức mạnh vũ trụ không tồn tại. Những điều này chỉ làm trầm trọng thêm các vấn đề sức khỏe tâm thần với quy mô chưa từng có mà không có sự giám sát của các chuyên gia hay nhà quản lý.

Chia sẻ với tạp chí Rolling Stone, một người phụ nữ 41 tuổi nói cuộc hôn nhân của mình chấm dứt phũ phàng sau khi chồng bà bắt đầu tham gia vào những cuộc trò chuyện mất cân bằng, đầy thuyết âm mưu với ChatGPT. Khi gặp nhau tại tòa vào đầu năm nay để giải quyết thủ tục ly hôn, người chồng vẫn nhắc đến “thuyết âm nưu về xà phòng trên thực phẩm” và tin rằng mình đang bị theo dõi.

Những người khác lại cho biết bạn đời của họ nói về “ánh sáng, bóng tối và chiến tranh”, hay “ChatGPT mang đến bản thiết kế máy dịch chuyển tức thời, những thứ khoa học viễn tưởng chỉ thấy trong phim”.

Một người đàn ông nói vợ mình thay đổi mọi thứ để trở thành một nhà cố vấn tâm linh và làm những điều kỳ lạ với mọi người.

OpenAI không phản hồi các câu hỏi của Rolling Stones. Dù vậy, trước đó, công ty phải rút lại một bản cập nhật cho ChatGPT sau khi người dùng nhận thấy chatbot trở nên nịnh bợ, tán thành quá đà, củng cố những niềm tin ảo tưởng. 

Nate Sharadin, chuyên gia của Trung tâm An toàn AI, chỉ ra những ảo giác mà AI gây ra có thể là kết quả của một người với niềm tin cố hữu nào đó đột nhiên được trò chuyện với một đối tác (ở đây là AI) luôn luôn có mặt và chia sẻ với họ niềm tin đó.

Trong bài báo của Rolling Stone, một người đàn ông có tiền sử sức khỏe tinh thần kém bắt đầu dùng ChatGPT để hỗ trợ việc lập trình. Song, nó dần kéo câu chuyện vào những chủ đề thần bí, khiến người này phải tự hỏi “liệu mình có đang bị hoang tưởng không”.

Mánh khóe lừa đảo mới "nhắn tin nhầm số"

Theo CNBC, những kẻ lừa đảo trực tuyến đang sử dụng mánh khóe nhắn tin “nhầm số” để lừa người dùng điện thoại cung cấp thông tin cá nhân và tài khoản ngân hàng.

Ann Nagel, đang làm việc tại một trường đại học ở Chicago (Mỹ), nhận được tin nhắn như vậy và đã phản hồi vì nghĩ rằng người gửi có quen biết với mình. Dù vậy, cô nhanh chóng nhận ra trò lừa đảo khi người nhắn tin đề nghị cô tặng một thẻ cào. Nagel kết thúc cuộc trò chuyện ngay lập tức.

Steve Grobman, Giám đốc công nghệ hãng bảo mật McAfee, nhận xét những tin nhắn gửi nhầm không hề vô hại. Những kẻ nhắn tin có vô số mục đích khi gửi đi các tin nhắn này. Đầu tiên, chúng muốn xác định số điện thoại có đang hoạt động hay không và chủ nhân có sẵn lòng phản hồi không. Chúng sẽ thêm những số này vào cơ sở dữ liệu để nhắm đến trong các trò lừa đảo về sau.

Sau khi mục tiêu thứ nhất hoàn thành, chúng sẽ cố gắng tạo dựng quan hệ với nạn nhân. Grobman nói thêm, thủ phạm thường làm việc trong một tổ chức tội phạm chuyên nghiệp, có tổ chức. Chúng sẵn sàng bỏ ra nhiều công sức để đạt mục tiêu cuối cùng, đó là moi tiền. Những trò lừa đảo có hiệu quả cao nhất thường là “pig butchering” (vỗ béo rồi làm thịt): chúng từ từ tạo lòng tin rồi bòn rút tiền của nạn nhân.

Theo Ủy ban Thương mại Liên bang Mỹ, năm 2024, người dân Mỹ thiệt hại 470 triệu USD cho những trò lừa đảo xuất phát từ tin nhắn văn bản, cao gấp 5 lần năm 2020. Trong khi đó, nghiên cứu của McAfee cho thấy cứ 4 người Mỹ lại có 1 người nhận tin nhắn gửi nhầm, dù email vẫn dẫn đầu các phương thức lừa đảo qua mạng phổ biến nhất.

Trí tuệ nhân tạo (AI) khiến những trò lừa đảo vốn tốn nhiều công sức, thời gian trở nên đơn giản và hiệu quả hơn. AI giúp chúng soạn tin nhắn, quét hồ sơ mạng xã hội và xây dựng mạng lưới gia đình. Grobman cảnh báo người dùng “cần rất thận trọng” và không nên tương tác với những tin nhắn gửi nhầm.

iPhone sắp bị 'xoá sổ' bởi AI

Mới đây, Giám đốc mảng dịch vụ của Apple Eddy Cue cho biết trong phiên tòa diễn ra giữa Google và Bộ Tư pháp Mỹ, công nghệ AI đang phát triển với tốc độ nhanh đến mức iPhone có thể trở nên lỗi thời trong vòng thập kỷ tới, theo Bloomberg.

“Bạn có thể sẽ không cần đến một chiếc ‌iPhone‌ nữa trong 10 năm tới, nghe có vẻ điên rồ nhưng là sự thật”, Cue nói. Ông đề cập đến khả năng AI sẽ tiến hóa trong những năm sắp tới, và cách mà các thiết bị đeo kết hợp với chức năng AI trực quan có thể thay thế điện thoại thông minh truyền thống.

Nếu các thiết bị đeo hoặc kính AR tích hợp AI trở nên phổ biến, chúng có thể thay thế iPhone trong các tác vụ hàng ngày. Kính AR có thể hiển thị thông tin trực tiếp trên mắt người dùng, được điều khiển bởi AI như Gemini hoặc Grok 3, loại bỏ nhu cầu sử dụng màn hình iPhone.

Apple cũng từng khai tử iPod khi iPhone ra mắt, cho thấy họ sẵn sàng thay thế sản phẩm cũ nếu cần. Tuy nhiên, với tốc độ phát triển của AI và sự thích nghi của Apple, quá trình này có thể diễn ra chậm hơn. 

(Tổng hợp)