Bảo vệ cộng đồng ngày càng phát triển bằng soi kèo bóng đá anh Dự án cải tiến trò chuyện bằng giọng nói “Pig Party”

Công nghệ/Sáng tạo

「'' là một dịch vụ cộng đồng nơi người dùng có thể tương tác với nhau thông qua hình đại diện Trong số những người khácđược nhiều người dùng sử dụng và cộng đồng ngày càng trở nên tích cực hơn Mặt khác, làm thế nào chúng ta có thể tiếp tục bảo vệ cộng đồng voice một cách an toàn, vốn đã phát triển đến một quy mô không thể theo kịp chỉ bằng sự kiểm tra của con người, đồng thời tôn trọng quyền riêng tư của người dùng? Những thách thức cũng đã nảy sinh

Để giải quyết vấn đề này, nhóm phát triển Pig Party và phòng điều hành soi kèo bóng đá anh đã làm việc để kết hợp tính năng phát hiện tự động bằng soi kèo bóng đá anh với phán đoán cuối cùng của con người nhằm đạt được cả một cộng đồng lành mạnh và giảm chi phí vận hành

Bài viết này giới thiệu sự khéo léo về mặt kỹ thuật và những thách thức mà các kỹ sư phải đối mặt để bảo vệ cộng đồng

Hồ sơ

  • Hotaka Matsuoka (Trụ sở kinh doanh AmebaLIFE PIGGPARTY)
    Tham gia với tư cách là sinh viên mới tốt nghiệp vào năm 2022 với tư cách là kỹ sư phụ trợ Sau khi được bổ nhiệm vào Trụ sở kinh doanh của AmebaLIFE, anh ấy đã làm việc để phát triển dịch vụ SNS avatar "Pig Party" Hiện tại, với tư cách là lãnh đạo SRE, anh chịu trách nhiệm phát triển và cải thiện hệ thống giám sát và vận hành trên nhiều dịch vụ liên quan đến Pig

  • Shuhei Oka (Văn phòng điều hành soi kèo bóng đá anh)
    Bắt đầu sự nghiệp kỹ sư soi kèo bóng đá anh vào năm 2024 Hiện đang giữ chức vụ CTO của Văn phòng Điều hành soi kèo bóng đá anh, anh lãnh đạo một nhóm chuyên giới thiệu soi kèo bóng đá anh cho các bộ phận kinh doanh khác nhau

Bảo vệ cộng đồng đang phát triển bằng công nghệ

── Trước tiên, vui lòng cho chúng tôi biết về "Tiệc lợn" và chức năng trò chuyện thoại

Matsuoka: "Pig Party" là một dịch vụ cộng đồng nơi bạn có thể tương tác bằng cách sử dụng hình đại diện và đang kỷ niệm 11 năm kể từ khi ra mắt “Pig Party” có chức năng nhóm trong đó nhiều người có thể nói chuyện và chức năng trò chuyện thoại đã được thêm vào vào năm 2021 Ban đầu, nó là một bản phát hành giới hạn nhưng đã nhận được đánh giá tích cực từ người dùng nên đã quyết định mở rộng cho tất cả người dùng vào năm 2024 Số lượng người dùng trò chuyện thoại tiếp tục tăng và nó đã trở thành một trong những chức năng quan trọng của cộng đồng

── Bạn thấy những thay đổi nào về mặt hoạt động kể từ khi cung cấp tính năng trò chuyện thoại cho người dùng?

Matsuoka: Khi số lượng người dùng trò chuyện thoại tăng lên, nhu cầu cải thiện hơn nữa sức khỏe của cộng đồng cũng tăng lên Điều này là do khi số lượng người dùng tăng lên, việc tiếp tục giám sát toàn bộ cộng đồng chỉ bằng con mắt của con người là không còn thực tế nữa Bảo vệ dịch vụ khỏi những bình luận có thể gây nguy hiểm cho cộng đồng, chẳng hạn như lời mời hoặc rò rỉ thông tin cá nhân, là vấn đề được ưu tiên hàng đầu

Trên thực tế, chúng tôi đang nỗ lực giúp cộng đồng trở nên lành mạnh hơn bằng cách sử dụng soi kèo bóng đá anh để phát hiện các hành vi có nguy cơ cao dựa trên nhật ký hành vi của người dùng và đưa ra cảnh báo

Trong khi đó, với mục đích mở rộng phạm vi giám sát và nâng cao hiệu quả, chúng tôi đã nghĩ đến việc mở rộng những nỗ lực này sang khu vực trò chuyện thoại và đang xem xét một hệ thống sử dụng soi kèo bóng đá anh

Mặt khác, cũng có những thách thức về mặt kỹ thuật Không giống như văn bản, trò chuyện bằng giọng nói yêu cầu xử lý dữ liệu âm thanh Với số lượng người dùng ngày càng tăng, thách thức lớn là làm thế nào để cân bằng giữa chi phí và độ chính xác nhằm nhắm mục tiêu đến toàn bộ cộng đồng

``Pig Party'' đã tiến hành xác minh từ rất sớm nhưng vẫn chưa được đưa vào sử dụng thực tế Vì vậy, chúng tôi đã đề nghị ông Oka từ Văn phòng Điều hành soi kèo bóng đá anh tham gia và chúng tôi quyết định hợp tác cùng nhau để thiết kế cách khắc phục những vấn đề này

Để cân bằng giữa độ chính xác, chi phí và an toàn

── Bạn đã tạo ra một hệ thống cải thiện tính năng trò chuyện thoại bằng soi kèo bóng đá anh bằng cách nào?

Được rồi: Để đưa một hệ thống sử dụng soi kèo bóng đá anh vào sử dụng thực tế, cần phải đạt được cùng lúc ba điều: độ chính xác, chi phí và an toàn

Trước hết, điều chúng tôi để soi kèo bóng đá anh đánh giá không phải là nội dung của toàn bộ cuộc trò chuyện Theo điều khoản dịch vụ của Pig Party, chúng tôi đang kiểm tra xem liệu lời phát biểu của một người dùng cụ thể có chứa nội dung có vấn đề hay không

Ví dụ: trao đổi thông tin cá nhân hoặc đưa ra những tuyên bố có thể đe dọa đến sự an toàn của cộng đồng Sau khi phiên âm văn bản bằng chức năng nhận dạng giọng nói, soi kèo bóng đá anh sẽ đánh giá những gì người dùng đang nói

soi kèo bóng đá anh không phân tích mối quan hệ qua lại hoặc bối cảnh tổng thể của cuộc trò chuyện mà đánh giá từng lời nói dựa trên điều khoản sử dụng Đầu tiên, chúng tôi xác minh kết quả bằng cách sử dụng dữ liệu thực tế và xác nhận rằng phán đoán của con người và kết quả phán đoán của soi kèo bóng đá anh nhìn chung khớp với nhau

Tuy nhiên, ngay cả khi độ chính xác có thể được xác nhận thì nó cũng không thể được đưa vào sử dụng thực tế Trò chuyện thoại có nhiều người dùng và nếu muốn giám sát toàn bộ cộng đồng, bạn sẽ cần xử lý một lượng lớn dữ liệu giọng nói Do đó, để đưa soi kèo bóng đá anh vào sử dụng thực tế, cần phải duy trì độ chính xác cần thiết trong khi vẫn giảm chi phí

Đầu tiên, chúng tôi tiến hành phân tích chi tiết về những điểm lãng phí trong dữ liệu giọng nói và những điểm có thể thực hiện cải tiến để giảm chi phí

Khi làm như vậy, chúng tôi đã phát hiện ra các đặc điểm cấu trúc của dữ liệu âm thanh Các cuộc hội thoại được ghi lại dưới dạng dữ liệu âm thanh độc lập của từng người nói, nhưng do tính chất của những người lần lượt nói nên thời gian nói thực tế của mỗi người nói chỉ là một phần trong tổng số

Vì vậy, chúng tôi đã thực hiện quy trình phát hiện và xóa các phần im lặng có trong giọng nói của mỗi người nói Ngoài ra, bằng cách kết hợp điều chỉnh tốc độ phát lại, vv, chúng tôi đã giảm đáng kể lượng dữ liệu đầu vào cho soi kèo bóng đá anh

Nhờ những nỗ lực này, chúng tôi đã có thể giảm hơn 90% dữ liệu đầu vào và giảm đáng kể chi phí API

Ngoài ra, điều khoản dịch vụ của "Pig Party" được sử dụng làm tiêu chí để xác định hành vi vi phạm Bằng cách đưa ra quyết định dựa trên các quy tắc mà người dùng thực sự đồng ý, chúng tôi có thể vận hành soi kèo bóng đá anh trong khi vẫn duy trì tính nhất quán trong các quyết định của nó

── Bạn nghĩ gì về việc không chỉ độ chính xác, chi phí mà còn đảm bảo an toàn?

Matsuoka: Chúng tôi áp dụng khái niệm "con người trong vòng lặp" Ý tưởng này là kết hợp một quy trình xác nhận và phán đoán của con người, thay vì dựa vào phán đoán của soi kèo bóng đá anh là quyết định cuối cùng Cho dù soi kèo bóng đá anh có chính xác đến đâu, chúng tôi tin rằng cuối cùng con người cũng nên đưa ra những quyết định có ảnh hưởng đến người dùng

Đặc biệt, sau phán đoán ban đầu của soi kèo bóng đá anh, chúng tôi đã tạo ra một cấu trúc trong đó soi kèo bóng đá anh được sử dụng để thu hẹp kết quả một lần nữa trước khi chuyển sang nhóm giám sát có người lái Bằng cách thực hiện xác định hai giai đoạn, chúng tôi giảm thiểu số lượng trường hợp mà nhóm giám sát có người lái cần xem xét, cho phép họ tập trung vào những trường hợp thực sự quan trọng

Đội giám sát có hàng chục trường hợp mỗi giờ Nhóm giám sát sử dụng dấu thời gian của các tuyên bố rủi ro để cung cấp bối cảnh trước khi đưa ra quyết định cuối cùng

Bằng cách này, ngay cả khi soi kèo bóng đá anh phát hiện ra điều gì đó, quyết định cuối cùng vẫn luôn do con người đưa ra, đảm bảo rằng người dùng thông thường không bị thiệt thòi Kết quả là hiện nay chúng tôi có thể đạt được phạm vi giám sát trên 90%

Mục tiêu của chúng tôi không phải là tăng số lượng phát hiện mà là mở rộng phạm vi giám sát toàn bộ cộng đồng Hiện tại, soi kèo bóng đá anh còn được sử dụng để đăng văn bản và hình ảnh Trong những trường hợp này, soi kèo bóng đá anh sẽ phát hiện những bình luận và hình ảnh không phù hợp và việc xác nhận cuối cùng được thực hiện bởi con người Chúng tôi đang dần thiết lập một hệ thống để bảo vệ giọng nói, văn bản, hình ảnh và nhiều điểm liên lạc khác trong cộng đồng

Cách đầu tư vào trách nhiệm bảo vệ cộng đồng của bạn

── Bạn đã suy nghĩ như thế nào khi quyết định đầu tư vào sáng kiến này?

Matsuoka: Giữ cho cộng đồng khỏe mạnh là tiền đề quan trọng trong việc cung cấp dịch vụ Trò chuyện thoại đang có nhu cầu cao từ người dùng và số lượng người dùng vẫn đang tăng lên

Để duy trì một môi trường mà nhiều người dùng có thể yên tâm tận hưởng hơn, điều cần thiết là phải có một hệ thống có thể đáp ứng được một cộng đồng đang phát triển Chúng tôi tin rằng đây là trách nhiệm mà chúng tôi phải thực hiện với tư cách là một dịch vụ, vượt xa vấn đề chi phí

Chúng tôi đã cân nhắc việc tăng cường hệ thống giám sát để bảo vệ cộng đồng và nhận thấy việc sử dụng soi kèo bóng đá anh là vấn đề kinh doanh quan trọng

── Bạn đã đặt ra loại chỉ số kết quả nào cho dự án này?

Matsuoka: Hai điểm được đặt làm chỉ số kết quả Vấn đề chính là có thể giảm bao nhiêu chi phí cơ sở hạ tầng và có thể mở rộng phạm vi giám sát đến mức nào

Không thể đo lường trực tiếp liệu số lượng vi phạm có giảm xuống 0 hay không chỉ bằng cách giới thiệu soi kèo bóng đá anh Mặt khác, chi phí và phạm vi phủ sóng là những chỉ số có thể cho thấy một cách khách quan liệu những nỗ lực cải thiện trò chuyện thoại bằng soi kèo bóng đá anh có hoạt động phù hợp hay không Do đó, chúng tôi đã tiến hành phát triển bằng cách sử dụng hai chỉ số hiệu suất này

Được rồi: Một trong những chỉ số đánh giá kết quả thực tế là kết quả phát hiện 170 ca mỗi tháng Giờ đây, có thể liên tục phát hiện các tuyên bố có thể đe dọa đến sự an toàn của cộng đồng, chẳng hạn như các tuyên bố có thể dẫn đến thông tin cá nhân hoặc các cuộc gặp gỡ, trong số lượng lớn các cuộc trò chuyện

── Hãy cho chúng tôi biết về những bài học rút ra qua dự án này và triển vọng tương lai của bạn

Matsuoka: Điều tôi cảm nhận rõ ràng qua dự án này là một mình nhóm phát triển không thể tạo ra một hệ thống bảo vệ cộng đồng

Kết quả do soi kèo bóng đá anh phát hiện sẽ được nhóm giám sát thực sự giám sát cộng đồng đánh giá và phản hồi sẽ được phản ánh ngay lập tức trong các cải tiến Bằng cách lặp lại chu trình này, chúng tôi dần dần cải thiện độ chính xác của mình

Trong tương lai, chúng tôi hướng tới không chỉ mở rộng hơn nữa phạm vi giám sát mà còn kết hợp kiến thức này ngay từ đầu khi cung cấp các chức năng cộng đồng mới Chúng tôi mong muốn phát triển hệ thống bảo vệ cộng đồng cùng với các dịch vụ của chúng tôi

Được rồi: Trong lần phát triển này, chúng tôi đã tích lũy được nhiều kiến thức chuyên ngành về sức khỏe cộng đồng, chẳng hạn như xử lý giọng nói và thiết kế phán đoán soi kèo bóng đá anh

Những phát hiện này có thể được áp dụng không chỉ cho trò chuyện thoại mà còn cho các dịch vụ cộng đồng khác nhau Chúng tôi cũng đang nộp đơn xin cấp bằng sáng chế cho một số công nghệ này và muốn bảo tồn chúng dưới dạng công nghệ

Sức khỏe của cộng đồng voice vẫn là một lĩnh vực đang phát triển Tôi hy vọng rằng sáng kiến ​​này sẽ là một bước tiến trong lĩnh vực này

Kỹ thuật bảo vệ người dùng bằng công nghệ là gì?

── Dự án này đã thay đổi suy nghĩ của bạn với tư cách là một kỹ sư như thế nào?

Được rồi: Có thời điểm, nhóm giám sát con người chỉ chấp nhận khoảng một nửa số tuyên bố mà soi kèo bóng đá anh đánh giá là "có thể vi phạm"

Trong những trường hợp như thế này, tôi nghĩ nhiều kỹ sư cho rằng độ chính xác của soi kèo bóng đá anh kém và tìm cách cải thiện nó Nhưng điều đầu tiên tôi kiểm tra là một thứ khác ``Trước hết, con người có đồng ý với những đánh giá của mình không?''

Khi chúng tôi yêu cầu ba nhân viên giám sát đánh giá riêng lẻ cùng một nhận xét, các đánh giá vẫn rất khác nhau Vấn đề không nằm ở soi kèo bóng đá anh mà là ở việc con người không có cùng tiêu chí để đưa ra quyết định

soi kèo bóng đá anh trả về câu trả lời cho các câu hỏi nhất định Tuy nhiên, vai trò của con người là suy nghĩ về những câu hỏi chúng ta nên hỏi và những vấn đề chúng ta thực sự cần giải quyết

Tất nhiên, khả năng sử dụng tối đa soi kèo bóng đá anh là quan trọng, nhưng tôi cảm thấy điều quan trọng hơn nữa là khả năng đặt câu hỏi phù hợp trước khi giao nó cho soi kèo bóng đá anh Thông qua dự án này, một lần nữa tôi nhận ra tầm quan trọng của điều này

─ Với tư cách là kỹ sư dịch vụ, vui lòng cho chúng tôi biết về một giai đoạn mà bạn có thể phát triển nhờ dự án này

Matsuoka: Điều khiến tôi ấn tượng nhất về dự án này là nó không được hoàn thành bởi một mình nhóm phát triển

Khi làm việc với nhóm giám sát để liên tục xác minh và phát triển hệ thống, chúng tôi nhận ra rằng kỹ thuật của chúng tôi có liên quan trực tiếp đến sự an toàn của cộng đồng

Tôi nghĩ tốc độ viết mã sẽ tăng hơn nữa nhờ soi kèo bóng đá anh Tuy nhiên, tầm quan trọng của việc hiểu “cái gì và cho soi kèo bóng đá anh” cần được tăng lên tương ứng

Hồ sơ theo dõi hàng trăm trường hợp mỗi tháng của chúng tôi cho thấy rằng chúng tôi có thể bảo vệ người dùng của mình thông qua công nghệ Có thể cảm nhận được đây là bài học lớn nhất mà tôi học được từ dự án này

Ngay cả trong thời đại soi kèo bóng đá anh, giá trị của việc xác định vấn đề, đặt câu hỏi và giải quyết chúng khi trực tiếp thực tế vẫn không thay đổi Trên thực tế, tôi tin rằng sức mạnh đó sẽ cần thiết hơn bao giờ hết

``Pig Party'' cung cấp một môi trường nơi bạn có thể đối mặt với các dịch vụ và người dùng thực tế cũng như thách thức các câu hỏi chưa được giải đáp Một trong số đó là tạo ra một hệ thống để bảo vệ cộng đồng Tôi nghĩ đây là một môi trường đầy thách thức đối với những kỹ sư thấy những chủ đề như vậy thú vị

Lợn đang tìm bạn để cùng nhau thực hiện thử thách!

Chúng tôi đang tìm kiếm người làm việc cùng chúng tôi tại Pig Party và Phòng Điều hành soi kèo bóng đá anh Nếu bạn quan tâm sau khi đọc bài viết, vui lòng xem liên kết bên dưới

Chia sẻ bài viết này

Xem blog chính thức

Xếp hạng bài viết

Chiến lược UI/UX theo phong cách CyberAgent để thay đổi trải nghiệm khách hàng của NTT Docomo

Công nghệ/Sáng tạo

NTT Docomo (sau đây gọi tắt là Docomo) là nhà cung cấp dịch vụ viễn thông lớn nhất Nhật Bản với số lượng người dùng lên tới hàng chục triệu người Công ty chúng tôi đã tham gia sâu vào "hoạt động kinh doanh lấy khách hàng làm trung tâm" mà công ty hiện đang thúc đẩy phù hợp với thời đại đang thay đổi, thông qua sự hiện diện toàn thời gian của chúng tôi tại chỗ

Trong bài viết này, chúng tôi đã trò chuyện với ông Inomata của Docomo và công ty Ueno và Nonoyama của chúng tôi Hai công ty đã khuyến khích sự thay đổi tư duy trong công ty và hiện đã phát triển mối quan hệ thành quan hệ đối tác chịu trách nhiệm cải tiến và phát triển sản phẩm liên tục Làm cách nào để chúng tôi cùng tạo ra sự tăng trưởng kinh doanh bền vững tập trung vào UI/UX bằng cách kết hợp nền tảng kinh doanh vững chắc của Docomo với niềm đam mê mãnh liệt của công ty chúng tôi đối với sản phẩm và tính linh hoạt? Chúng tôi xem xét kỹ hơn quỹ đạo của sự thay đổi thực sự mà chúng tôi đã thực hiện với tư cách là một nhóm

Đầu trang