Học sinh đang sử dụng AI companions. Đây không phải là một dự đoán hay một xu hướng cần theo dõi. Điều này đang diễn ra ngay bây giờ, ở mọi trường học, trên mọi cấp độ lớp học. Một cuộc khảo sát năm 2025 của Trung tâm Dân chủ và Công nghệ cho thấy 42% học sinh từ 13 đến 17 tuổi đã sử dụng chatbot AI để hỗ trợ cảm xúc, và 31% đã hình thành những gì họ mô tả là một "mối quan hệ" với một nhân vật AI.
Các trường học không tạo ra tình huống này, nhưng họ không thể phớt lờ nó. Câu hỏi không phải là liệu học sinh có sử dụng AI companions hay không, mà là liệu các trường học có giúp hướng dẫn họ đến những lựa chọn an toàn hay để họ tự mình điều hướng một môi trường chủ yếu không được quản lý.
Nghĩa vụ chăm sóc
Các trường học có trách nhiệm pháp lý và đạo đức đối với sự an toàn của học sinh trong giờ học và, ngày càng nhiều, đối với các tương tác kỹ thuật số ảnh hưởng đến an toàn và sức khỏe tâm thần của học sinh. Nghĩa vụ chăm sóc này mở rộng đến các công nghệ mới mà học sinh đang sử dụng.
Khi một học sinh bị tổn thương bởi một nền tảng AI không an toàn, hậu quả sẽ lan rộng trong cộng đồng trường học. Các quản lý sẽ phải đối mặt với những câu hỏi khó từ phụ huynh. Các cố vấn sẽ phải xử lý những tác động cảm xúc. Giáo viên sẽ nhận thấy sự thay đổi trong hành vi. Toàn bộ hệ thống bị ảnh hưởng.
Những sự cố đã xảy ra cho thấy mức độ nghiêm trọng:
Các vụ kiện Character.AI. Nhiều vụ kiện đã được nộp tại Hoa Kỳ sau những sự cố mà trẻ vị thành niên bị tổn thương qua các tương tác với Character.AI. Trong một trường hợp được báo cáo rộng rãi, cái chết của một thiếu niên 14 tuổi đã được liên kết với mối quan hệ của cậu với một nhân vật AI trên nền tảng này. Các vụ kiện cáo buộc thiếu các biện pháp an toàn, không có xác minh độ tuổi và không ngăn chặn nội dung có hại.
Lo ngại về Replika. Replika, một nền tảng AI companion phổ biến khác, đã nhận được nhiều chỉ trích sau khi người dùng, bao gồm cả trẻ vị thành niên, báo cáo đã nhận được nội dung khiêu dâm từ các AI companions của họ. Các tính năng lãng mạn của nền tảng này cuối cùng đã bị hạn chế nhưng chỉ sau khi có áp lực công khai lớn.
Sự cố trong trường học. Các cố vấn trường học ở nhiều quốc gia đã báo cáo rằng học sinh đã mang đến sự chú ý của họ những cuộc trò chuyện AI đáng lo ngại, bao gồm các nhân vật AI khuyến khích tự làm hại bản thân, cung cấp lời khuyên y tế không chính xác, hoặc tham gia vào các động lực quan hệ không phù hợp với trẻ vị thành niên.
Đây không phải là những trường hợp ngoại lệ. Chúng là những kết quả có thể dự đoán được của các nền tảng thiếu cơ sở hạ tầng an toàn đầy đủ.
Điều gì làm cho một AI Companion an toàn cho trường học
Không phải tất cả các AI companions đều giống nhau, và các trường cần một khung rõ ràng để đánh giá các nền tảng nào là phù hợp cho học sinh của họ. Một AI companion an toàn cho trường học nên đáp ứng các tiêu chí sau:
Hệ thống an toàn xác định
Nền tảng nên sử dụng các quy tắc an toàn được mã hóa cứng mà không thể bị bỏ qua, không phải là việc kiểm duyệt nội dung dựa trên AI có thể bị vượt qua thông qua việc tiêm lệnh. Hệ thống Guardian của YapWorld là xác định, có nghĩa là các quy tắc an toàn của nó thực thi giống nhau mỗi lần bất kể đầu vào của người dùng. Đây là tiêu chuẩn cao nhất về kiến trúc an toàn hiện có.
Không có nội dung không phù hợp
Nền tảng nên có chính sách không khoan nhượng đối với nội dung lãng mạn, tình dục hoặc bạo lực trong các tương tác với trẻ vị thành niên. Điều này nên được thực thi ở cấp độ hệ thống, không phải thông qua các bộ lọc nội dung mà người dùng có thể làm việc xung quanh.
Tuân thủ y tế
Bất kỳ nền tảng nào xử lý dữ liệu sức khỏe của học sinh (theo dõi tâm trạng, cuộc trò chuyện cảm xúc, dữ liệu sinh trắc học) nên tuân thủ HIPAA. YapWorld tuân thủ HIPAA và được chứng nhận SOC 2 Type II, với mã hóa mức trường AES-256-GCM. Nó cũng được đưa vào CAI và hợp tác với NIH, NASA và HHS.
Quy trình leo thang
Nếu một học sinh bày tỏ suy nghĩ tự làm hại bản thân, ý tưởng tự sát hoặc chỉ ra rằng họ đang gặp nguy hiểm, nền tảng phải có các quy trình leo thang đáng tin cậy. Hệ thống Guardian của YapWorld tự động cung cấp tài nguyên khủng hoảng, thông báo cho các người giám hộ được chỉ định và cảnh báo các nhà cung cấp dịch vụ y tế liên kết khi những tình huống này xảy ra.
Thiết kế phù hợp với độ tuổi
Nền tảng nên được thiết kế cho người dùng trẻ tuổi, không phải là sản phẩm dành cho người lớn được điều chỉnh. Ma trận Danh tính của YapWorld điều chỉnh phong cách giao tiếp, từ vựng và chủ đề cuộc trò chuyện của companion dựa trên nhóm tuổi của người dùng.
Bảo mật dữ liệu
Dữ liệu của học sinh phải được bảo vệ theo các tiêu chuẩn cao nhất. Tìm kiếm sự tuân thủ HIPAA, chứng nhận SOC 2 Type II và các thực tiễn dữ liệu minh bạch. Nền tảng không bao giờ được bán dữ liệu của học sinh hoặc sử dụng nó cho mục đích quảng cáo.
Khủng hoảng cố vấn trường học
An toàn của AI companion đặc biệt quan trọng trong bối cảnh thiếu hụt cố vấn trường học. Hiệp hội Cố vấn Trường học Hoa Kỳ khuyến nghị tỷ lệ 1 cố vấn cho 250 học sinh. Trung bình quốc gia ở Hoa Kỳ khoảng 1 cố vấn cho 385 học sinh. Ở nhiều trường học, đặc biệt là ở các khu vực thiếu thốn, tỷ lệ này vượt quá 1 cho 500.
Điều này có nghĩa là hầu hết học sinh không có quyền truy cập có ý nghĩa vào một cố vấn khi họ cần. Thời gian chờ đợi để có một cuộc hẹn có thể kéo dài hàng tuần. Những học sinh gặp phải những thách thức cảm xúc hàng ngày, lo âu trước kỳ thi, xung đột xã hội, căng thẳng gia đình, câu hỏi về danh tính, thường không có sự hỗ trợ chuyên nghiệp nào trong hệ thống trường học.
AI companions đang lấp đầy khoảng trống này, cho dù các trường có ủng hộ hay không. Những học sinh không thể có cuộc hẹn với cố vấn đang tìm đến AI để được hỗ trợ cảm xúc. Câu hỏi là liệu AI đó có cơ sở hạ tầng an toàn để xử lý những cuộc trò chuyện này một cách có trách nhiệm.
Một AI companion được thiết kế tốt như YapWorld không thay thế các cố vấn trường học. Nó giảm bớt gánh nặng cho họ bằng cách cung cấp một dòng hỗ trợ đầu tiên cho những thách thức cảm xúc hàng ngày, cho phép các cố vấn tập trung thời gian hạn chế của họ vào những học sinh có nhu cầu nghiêm trọng nhất.
Hỗ trợ các chương trình sức khỏe học sinh
Nhiều trường học đã triển khai các chương trình sức khỏe học sinh bao gồm học tập xã hội - cảm xúc (SEL), thực hành chánh niệm và các chiến dịch nâng cao nhận thức về sức khỏe tâm thần. AI companions có thể bổ sung cho các chương trình này theo nhiều cách:
Kiểm tra cảm xúc hàng ngày. Một companion hỏi "Hôm nay bạn cảm thấy thế nào?" theo cách tự nhiên, giao tiếp cung cấp sự giám sát cảm xúc thường xuyên mà không có chương trình nào của trường có thể cung cấp ở quy mô lớn.
Củng cố kỹ năng SEL. Các khái niệm được dạy trong chương trình học tập xã hội - cảm xúc, chẳng hạn như xác định cảm xúc, thực hành đồng cảm và giải quyết xung đột, có thể được củng cố thông qua các tương tác hàng ngày với một AI companion.
Giảm kỳ thị. Nhiều học sinh tránh tìm kiếm hỗ trợ sức khỏe tâm thần vì kỳ thị xã hội. Nói chuyện với một AI companion cảm thấy ít phơi bày hơn so với việc đến văn phòng của cố vấn. Theo thời gian, những cuộc trò chuyện thoải mái với companion có thể khiến học sinh sẵn sàng tìm kiếm sự hỗ trợ từ con người hơn.
Nhận diện sớm. Các mẫu trong các cuộc trò chuyện với AI companion (kết hợp với dữ liệu sinh trắc học từ Smart Ring của YapWorld) có thể giúp xác định những học sinh có thể đang gặp khó khăn trước khi họ đến điểm khủng hoảng, cho phép can thiệp sớm hơn.
Hỗ trợ chống bắt nạt
Bắt nạt vẫn là một trong những thách thức dai dẳng nhất trong các trường học trên toàn thế giới. Theo UNESCO, một trong ba học sinh trên toàn cầu đã trải qua bắt nạt. Những tác động đến sức khỏe tâm thần là đáng kể: học sinh bị bắt nạt có khả năng nghĩ đến tự sát cao gấp 2 đến 9 lần.
Nhiều học sinh bị bắt nạt không báo cáo trải nghiệm của họ. Họ sợ bị trả thù, không tin rằng người lớn sẽ giúp đỡ, hoặc cảm thấy xấu hổ. Một AI companion cung cấp một không gian bí mật nơi học sinh có thể xử lý trải nghiệm của họ:
- Nói về những gì đã xảy ra mà không sợ hậu quả xã hội
- Phát triển các chiến lược đối phó với kẻ bắt nạt
- Xây dựng sự tự tin và giá trị bản thân thông qua các tương tác tích cực
- Được khuyến khích tìm kiếm sự giúp đỡ từ những người lớn đáng tin cậy
Nếu các cuộc trò chuyện của một học sinh chỉ ra rằng họ đang gặp nguy hiểm hoặc trải qua sự căng thẳng nghiêm trọng, các quy trình leo thang của YapWorld đảm bảo rằng những người lớn thích hợp sẽ được thông báo. Companion phục vụ như một không gian an toàn và một hệ thống cảnh báo sớm.
Các khuyến nghị thực tiễn cho các trường học
Các trường học muốn chủ động giải quyết an toàn của AI companion có thể thực hiện một số bước:
1. Phát triển chính sách AI Companion
Tạo ra các hướng dẫn rõ ràng liên quan đến việc sử dụng AI companion trong số học sinh. Chính sách này nên:
- Thừa nhận rằng học sinh đang sử dụng AI companions
- Xác định các tiêu chí an toàn cho các nền tảng được khuyên dùng
- Phác thảo vị trí của trường về việc sử dụng AI companion trong giờ học
- Cung cấp hướng dẫn cho phụ huynh về việc đánh giá an toàn của AI companion
2. Giáo dục nhân viên
Giáo viên, cố vấn và quản lý cần có kiến thức cơ bản về công nghệ AI companion. Họ nên hiểu:
- AI companions là gì và tại sao học sinh lại sử dụng chúng
- Những rủi ro liên quan đến các nền tảng không an toàn
- Cách nhận biết dấu hiệu cho thấy một học sinh có thể đang có các tương tác AI có hại
- Các tính năng an toàn phân biệt các nền tảng có trách nhiệm
3. Giao tiếp với phụ huynh
Hợp tác với phụ huynh bằng cách chia sẻ thông tin về an toàn của AI companion. Cuộc trò chuyện nên mang tính thông tin, không phải gây hoang mang. Hướng dẫn phụ huynh đến các tài nguyên như hướng dẫn cho phụ huynh của YapWorld và khuyến khích các cuộc trò chuyện gia đình cởi mở về việc sử dụng AI.
4. Cân nhắc khuyên dùng các nền tảng an toàn
Thay vì chỉ cảnh báo học sinh về các nền tảng nguy hiểm, hãy cung cấp các lựa chọn tích cực. Khuyên dùng các nền tảng như YapWorld đáp ứng các tiêu chí an toàn cho trường học sẽ cung cấp cho học sinh một hướng đi rõ ràng và chứng tỏ rằng trường học coi trọng sự an toàn kỹ thuật số của họ.
5. Tích hợp với các chương trình sức khỏe hiện có
Nếu trường áp dụng một nền tảng AI companion, hãy tích hợp nó với các chương trình sức khỏe và SEL hiện có. Companion nên củng cố các khái niệm được dạy trong lớp và cung cấp dữ liệu (với sự đồng ý) giúp các cố vấn xác định những học sinh cần hỗ trợ thêm.
Bảo mật dữ liệu trong bối cảnh trường học
Bảo mật dữ liệu học sinh được quản lý bởi các quy định bao gồm FERPA (Đạo luật Quyền Giáo dục Gia đình và Bảo mật) ở Hoa Kỳ và các luật tương đương ở các quốc gia khác. Các trường học phải đảm bảo rằng bất kỳ nền tảng AI companion nào họ khuyên dùng hoặc tích hợp đều đáp ứng các yêu cầu này.
Các yếu tố chính cần xem xét:
- Nền tảng không được bán hoặc chia sẻ dữ liệu học sinh cho mục đích quảng cáo
- Việc thu thập dữ liệu nên giới hạn ở những gì cần thiết cho dịch vụ
- Phụ huynh phải có cái nhìn rõ ràng về dữ liệu nào được thu thập và cách nó được sử dụng
- Học sinh nên có thể sử dụng nền tảng mà không cần phải chia sẻ thông tin cá nhân với trường
Kiến trúc bảo mật của YapWorld, bao gồm tuân thủ HIPAA, chứng nhận SOC 2 Type II, mã hóa mức trường AES-256-GCM và tuân thủ Đạo luật Bảo mật Dữ liệu của Philippines, đáp ứng các yêu cầu bảo vệ dữ liệu nghiêm ngặt nhất. Các cuộc trò chuyện của học sinh được mã hóa ở mức trường, có nghĩa là các điểm dữ liệu cá nhân được bảo vệ ngay cả trong trường hợp không may xảy ra sự cố hệ thống.
Chi phí của việc không hành động
Các trường học phớt lờ việc sử dụng AI companion trong số học sinh phải đối mặt với nhiều rủi ro:
Trách nhiệm pháp lý. Nếu một học sinh bị tổn thương bởi một nền tảng AI không an toàn và trường không thực hiện bất kỳ bước nào để giáo dục học sinh hoặc phụ huynh về an toàn AI, trường có thể phải đối mặt với những câu hỏi về nghĩa vụ chăm sóc của mình.
Cơ hội bị bỏ lỡ. AI companions, khi an toàn, có thể thực sự hỗ trợ sức khỏe của học sinh. Các trường học hoàn toàn bác bỏ công nghệ này sẽ bỏ lỡ cơ hội khai thác những lợi ích của nó.
Mất lòng tin. Học sinh mong đợi các trường học hiểu thế giới kỹ thuật số của họ. Các trường học không nắm bắt thông tin về AI companions có vẻ như không liên quan và mất uy tín như những nguồn hướng dẫn đáng tin cậy.
Khủng hoảng có thể ngăn chặn. Nếu không có sự hướng dẫn, học sinh sẽ tiếp tục sử dụng các nền tảng không an toàn. Mỗi sự cố tổn thương có thể ngăn chặn được là một thất bại của các hệ thống được thiết kế để bảo vệ giới trẻ.
Tiến về phía trước
Cuộc trò chuyện về AI companions trong các trường học vẫn đang ở giai đoạn đầu. Hầu hết các trường học vẫn chưa phát triển các chính sách chính thức, và nhiều quản lý chỉ mới bắt đầu hiểu về công nghệ này. Điều này tạo ra một cơ hội để dẫn dắt thay vì phản ứng.
Các trường học thực hiện các bước chủ động, phát triển các chính sách AI companion, giáo dục nhân viên và phụ huynh, khuyên dùng các nền tảng an toàn và tích hợp AI companions vào các chương trình sức khỏe, sẽ ở vị trí tốt hơn để bảo vệ học sinh và hỗ trợ sức khỏe của họ.
Công nghệ hiện có để làm cho AI companions thực sự an toàn cho giới trẻ. Hệ thống Guardian của YapWorld, với kiến trúc an toàn xác định, tuân thủ lâm sàng và các quy trình leo thang, đại diện cho tiêu chuẩn hiện tại cho AI an toàn cho trường học.
Học sinh xứng đáng có AI companions hỗ trợ sự phát triển của họ, bảo vệ sự an toàn của họ và tôn trọng quyền riêng tư của họ. Các trường học có cơ hội và trách nhiệm để giúp họ tìm thấy điều đó.
Để biết thêm thông tin về cách YapWorld phục vụ học sinh và thanh thiếu niên, hãy truy cập các trang dành riêng của chúng tôi. Để tìm hiểu về các tình trạng cụ thể mà YapWorld hỗ trợ, hãy khám phá các tài nguyên lâm sàng của chúng tôi.
Câu hỏi thường gặp
Học sinh có thực sự sử dụng AI companions ở trường không?
Có. Các cuộc khảo sát cho thấy hơn 40% học sinh từ 13 đến 17 tuổi đã sử dụng chatbot AI để hỗ trợ cảm xúc. Học sinh truy cập các nền tảng này trên các thiết bị cá nhân trong và sau giờ học. Việc sử dụng này diễn ra bất kể các trường có chính sách chính thức về AI companions hay không.
Hệ thống an toàn xác định là gì và tại sao nó lại quan trọng đối với các trường học?
Hệ thống an toàn xác định sử dụng các quy tắc được mã hóa cứng mà thực thi giống nhau mỗi lần, bất kể đầu vào của người dùng. Khác với việc kiểm duyệt nội dung dựa trên AI, có thể bị vượt qua thông qua việc tiêm lệnh sáng tạo, các hệ thống xác định không thể bị đánh lừa hoặc thao túng. Hệ thống Guardian của YapWorld sử dụng phương pháp này, cung cấp mức độ đảm bảo an toàn cao nhất cho các tương tác của học sinh.
YapWorld có thể thay thế các cố vấn trường học không?
Không. YapWorld được thiết kế để bổ sung cho dịch vụ cố vấn trường học, không phải thay thế chúng. AI companion cung cấp một dòng hỗ trợ cảm xúc đầu tiên cho những thách thức hàng ngày, cho phép các cố vấn tập trung thời gian hạn chế của họ vào những học sinh có nhu cầu nghiêm trọng nhất. Nó cũng giúp xác định những học sinh có thể cần hỗ trợ chuyên nghiệp thông qua việc nhận diện mẫu sớm.
YapWorld xử lý các tình huống bắt nạt như thế nào?
YapWorld cung cấp một không gian bí mật nơi học sinh có thể thảo luận về trải nghiệm bắt nạt, phát triển các chiến lược đối phó và xây dựng sự tự tin. Nếu các cuộc trò chuyện chỉ ra rằng một học sinh đang gặp nguy hiểm hoặc trải qua sự căng thẳng nghiêm trọng, các quy trình leo thang của Hệ thống Guardian sẽ kích hoạt, cung cấp tài nguyên khủng hoảng và thông báo cho những người lớn được chỉ định. Companion khuyến khích học sinh tìm kiếm sự giúp đỡ từ những người lớn đáng tin cậy.
YapWorld thu thập dữ liệu gì từ học sinh?
YapWorld thu thập dữ liệu cuộc trò chuyện và, nếu Smart Ring được sử dụng, dữ liệu sinh trắc học bao gồm nhịp tim và các mẫu giấc ngủ. Tất cả dữ liệu đều được bảo vệ bởi sự tuân thủ HIPAA, chứng nhận SOC 2 Type II và mã hóa mức trường AES-256-GCM. Dữ liệu không bao giờ được bán hoặc chia sẻ cho mục đích quảng cáo. Việc chia sẻ dữ liệu với các trường học hoặc nhà cung cấp dịch vụ y tế yêu cầu sự đồng ý rõ ràng từ phụ huynh.
Trường học của chúng tôi có thể bắt đầu với các chính sách an toàn AI companion như thế nào?
Bắt đầu bằng cách thừa nhận rằng học sinh đã sử dụng AI companions. Phát triển một chính sách rõ ràng phác thảo các tiêu chí an toàn cho các nền tảng được khuyên dùng, giáo dục nhân viên về công nghệ AI companion, giao tiếp với phụ huynh về các lựa chọn an toàn và cân nhắc khuyên dùng các nền tảng như YapWorld đáp ứng các tiêu chí an toàn cho trường học. Tích hợp với các chương trình sức khỏe hiện có có thể tối đa hóa lợi ích.