OCR theo từng khung hình lặp lại cùng một công việc
Một bộ phim dài 100 phút có hàng trăm nghìn khung hình. Hệ thống sản xuất có thể lấy mẫu và nhóm các ứng viên lặp lại theo thời gian thay vì coi mỗi khung hình là một tác vụ OCR riêng biệt.
Quy trình làm sạch phục vụ sản xuất phải xác định đúng văn bản cần xử lý, bảo vệ những nội dung cần giữ lại, tái tạo phần nền bị che khuất và tạo ra nguồn sạch để trích xuất phụ đề, dịch, lồng tiếng bằng AI, xem xét, xuất hoặc tự động hóa qua API.
Có nhiều thành phần nền tảng công khai hữu ích: các hệ thống OCR có thể phát hiện và nhận dạng văn bản, mô hình phục hồi ảnh có thể lấp đầy các vùng bị che, còn mô hình phục hồi video có thể cải thiện tính nhất quán theo thời gian. Tuy nhiên, một quy trình sản xuất phải xử lý video dài, nhiều ngôn ngữ, chuyển động, khuôn mặt, nhãn sản phẩm, phụ đề thay đổi vài giây một lần, chi phí GPU, độ trễ hàng đợi và nhu cầu chuyển các nội dung đã được làm sạch sang khâu bản địa hóa.
Weydub không được giới thiệu ở đây như một lớp bọc quanh duy nhất một mô hình mã nguồn mở. Tài liệu sản phẩm và API công khai xác lập các quy trình có OCR hỗ trợ, tính năng kiểm soát vùng và thời gian, chế độ xóa, tùy chọn khôi phục, tác vụ bất đồng bộ và đầu ra có thể tải xuống. Trang này không tiết lộ cách phối hợp chính xác các mô hình nội bộ.
00:00-00:03 Bản gốc: phụ đề hội thoại tiếng Trung ở vùng dưới trung tâm và chữ dọc ở mép khung xuất hiện trên một cảnh phim ngắn. Kết quả: các lớp phủ được chọn không còn xuất hiện trong video đầu ra tương ứng.
00:03-00:06 Cảnh quay và các đối tượng vẫn tiếp tục chuyển động. Việc đánh giá tập trung vào việc khung hình phía dưới sau khi khôi phục có duy trì độ ổn định về mặt hình ảnh hay không, thay vì chỉ đánh giá một ảnh tĩnh.
00:06-00:09 Hai đoạn video song song vẫn đồng bộ cho đến cuối. Ví dụ này chỉ cho thấy kết quả có thể quan sát được trong đoạn video nguồn này; nội dung truyền thông đại diện cho môi trường sản xuất vẫn cần được đánh giá.
Một bộ phim dài 100 phút có hàng trăm nghìn khung hình. Hệ thống sản xuất có thể lấy mẫu và nhóm các ứng viên lặp lại theo thời gian thay vì coi mỗi khung hình là một tác vụ OCR riêng biệt.
Biển hiệu, màn hình điện thoại, bong bóng trò chuyện, logo, bao bì và mã sản phẩm đều có thể khiến OCR phát hiện văn bản. Chất lượng nằm ở việc xóa đúng lớp phủ cần xóa, đồng thời bảo toàn tính chân thực của cảnh quay và sản phẩm.
Phục hồi ảnh độc lập có thể khiến kết cấu lấp lánh và các đường biên dao động. Làm sạch video cần có cơ chế kiểm soát theo thời gian để phần tái tạo duy trì sự ổn định giữa các khung hình liền kề.
Một ví dụ Smart Removal thực tế khác của Weydub kết nối việc phát hiện văn bản có chọn lọc, các quy tắc bảo vệ, khôi phục theo thời gian, các chế độ xóa được nêu trong tài liệu, khâu đánh giá và phân phối. Đồ thị theo thời gian và quy trình là các mô hình hệ thống mang tính giải thích; API và Batch là ranh giới phân phối, không phải các cấp độ chất lượng bổ sung.
Các dự án công khai này giúp giải thích bức tranh kỹ thuật rộng hơn. Chúng là tài liệu tham khảo cho nghiên cứu và kỹ thuật, không phải tuyên bố rằng Weydub phụ thuộc vào, bao bọc hay cung cấp bất kỳ dự án nào trong số đó ở cấp nội bộ.
| Nhóm tham chiếu | Điều được chứng minh | Vì sao chưa đủ cho trường hợp sử dụng của Weydub | Yêu cầu sản xuất |
|---|---|---|---|
| OCR Phát hiện văn bản kiểu PaddleOCR / EAST | Văn bản có thể được phát hiện và nhận dạng trong ảnh hoặc khung hình, bao gồm nhiều hệ chữ và bố cục phức tạp. | Chạy OCR một cách ngây thơ trên mọi khung hình rất tốn kém; OCR cũng phát hiện văn bản vốn có trong cảnh và có thể cần được giữ lại. Chỉ phát hiện thôi không đủ để xác định chính sách xóa. | Khi phù hợp, hãy nhóm các ứng viên lặp lại, sau đó áp dụng các tùy chọn kiểm soát vùng, thời gian, xóa, giữ lại và chỉ OCR trước khi khôi phục. |
| Khôi phục ảnh Phục hồi ảnh kiểu LaMa | Các vùng bị che lớn và vùng bị thiếu có thể được lấp đầy bằng nội dung nền hợp lý. | Một khung hình tĩnh được phục hồi tốt vẫn có thể bị nhấp nháy trong video. Mô hình cũng có thể tạo ra nội dung không chính xác quanh khuôn mặt, bàn tay, lưới, phụ đề phủ lên quần áo hoặc các chi tiết sản phẩm. | Sử dụng tùy chọn khôi phục hiện có, ngữ cảnh cục bộ, tinh chỉnh mặt nạ, kiểm tra tính nhất quán giữa các khung hình và đầu ra có thể đánh giá. |
| Phục hồi video Phục hồi video kiểu ProPainter | Việc lan truyền theo thời gian và hoàn thiện dựa trên transformer có thể cải thiện tính nhất quán giữa các khung hình. | Phục hồi video đòi hỏi nhiều tài nguyên hơn, chậm hơn và khó mở rộng hơn khi xử lý hàng nghìn tập phim hoặc video sản phẩm. Không thể sử dụng nó một cách máy móc cho mọi tác vụ. | Đánh giá các đoạn video đại diện, chọn chế độ hoặc tùy chọn khôi phục được bật, kiểm soát chi phí và kiểm tra tính nhất quán theo thời gian trước khi đưa vào sản xuất. |
Các lần phát hiện lặp lại có thể được nhóm thành các khoảng thời gian để quy trình xử lý một sự kiện ứng viên duy nhất thay vì nhiều khung bao trùng lặp ở cấp khung hình. Vị trí, thời gian, độ tin cậy, ngôn ngữ, chuyển động và ranh giới cảnh là những tín hiệu hữu ích cho bài toán hệ thống này.
Phần giải thích này sử dụng đồ thị ứng viên theo thời gian để mô tả bài toán ở cấp hệ thống; phần này không tiết lộ thuật toán nội bộ chính xác của Weydub.
Phục hồi ảnh kiểu LaMa minh họa cách các vùng bị thiếu có thể được lấp đầy. Phục hồi video kiểu ProPainter cho thấy vì sao sự lan truyền và ngữ cảnh theo thời gian lại quan trọng. Trong bài viết này, định tuyến sản xuất có nghĩa là chọn một chế độ hoặc tùy chọn khôi phục được bật dựa trên độ chắc chắn của vùng, chuyển động, độ phức tạp, nhu cầu chất lượng, chi phí và quyền sử dụng của tài khoản. Tài liệu công khai xác lập các lựa chọn, nhưng không cho biết mọi lựa chọn có hoàn toàn tự động hay không.
Mỗi khung hình có thể trông hợp lý khi đứng riêng, nhưng kết cấu, đường biên, bóng đổ hoặc khuôn mặt lại thay đổi nhẹ từ khung hình này sang khung hình kế tiếp.
Các khung hình liền kề và tín hiệu chuyển động giúp ràng buộc quá trình tái tạo, cải thiện tính liên tục cho camera đang di chuyển, khuôn mặt, quần áo và nền có hoa văn.
Phần giải thích này mô tả trách nhiệm của một quy trình sản xuất. Tài liệu công khai của Weydub xác lập đầu vào xóa, mặt nạ, chế độ, trạng thái bất đồng bộ và đầu ra; tài liệu không tiết lộ đồ thị mô hình, bộ phân loại hoặc sự phân chia chính xác giữa thao tác viên và chính sách được sử dụng cho từng tác vụ.
Xác nhận thời lượng, độ phân giải, chuyển động, vị trí phụ đề, thay đổi cảnh và mức độ khó đại diện trước khi chọn quy trình.
Sử dụng OCR và thị giác máy tính để xác định phụ đề cứng, lower third, watermark, chú thích, logo và các lớp phủ có thể đọc khác.
Mô hình giải thích nhóm các kết quả phát hiện lặp lại để có thể cùng phân tích thời lượng, độ lệch vị trí và ngữ cảnh của các khung hình lân cận.
Sử dụng lựa chọn toàn khung hình hoặc theo vùng, kết hợp với các tùy chọn xóa, giữ lại, chỉ OCR và giới hạn thời gian tùy chọn để giảm các trường hợp nhận diện nhầm gây hậu quả.
Chạy tùy chọn Basic hoặc Advanced đã được bật, sau đó kiểm tra các chi tiết phức tạp như kết cấu, chuyển động, bóng đổ, khuôn mặt, bàn tay, cạnh sản phẩm và hoa văn.
Trả về video sạch để dịch, lồng tiếng AI, thêm phụ đề mới, duyệt, tải xuống hoặc tự động hóa qua API trong quy trình Weydub tổng thể.
Weydub áp dụng kinh nghiệm bản địa hóa nội dung truyền thông cho phim ngắn và thương mại điện tử xuyên biên giới, nơi việc xóa không đạt yêu cầu có thể làm giảm độ nhập vai của người xem hoặc ảnh hưởng đến niềm tin vào sản phẩm. Nguồn nội dung, tiêu chuẩn kiểm duyệt, khối lượng và lộ trình bản địa hóa tiếp theo cần định hình quy trình làm việc.
Weydub mô tả ba chế độ Basic và ba tùy chọn Advanced trong tài liệu. Tính khả dụng, tham số, chi phí và quyền sử dụng có thể khác nhau. Hãy thử nghiệm trên nội dung đại diện trước khi gửi lưu lượng sản xuất, vì chất lượng thay đổi tùy theo nội dung nguồn và lựa chọn vùng che.
Sử dụng khi chưa biết vị trí văn bản hiển thị, khi văn bản nằm rải rác hoặc trải rộng, và khi phù hợp với việc xóa trên toàn khung hình.
Sử dụng khi phụ đề, logo, tiêu đề ở phần dưới màn hình, gợi ý cốt truyện hoặc số đăng ký nằm trong một vùng đã biết.
Sử dụng cho phụ đề chạy hoặc văn bản chuyển động khi chế độ này đã được bật cho tài khoản.
Sử dụng khi Advanced Lite đã được bật cho tài khoản, sau khi xác thực các tham số, chi phí và đầu ra trên những đoạn video đại diện.
Sử dụng quy trình Advanced Pro đã được bật khi có thể giới hạn khu vực bị ảnh hưởng trong một hộp giới hạn đã biết.
Sử dụng quy trình Advanced Pro đã được bật khi tác vụ yêu cầu xử lý toàn khung hình thay vì xử lý theo hộp giới hạn.
Lợi thế của sản phẩm không nằm ở một mô hình OCR hay một mô hình inpainting duy nhất. Lợi thế nằm ở sự kết nối giữa các công cụ kiểm soát làm sạch, khâu kiểm duyệt, việc bàn giao đầu ra và quy trình bản địa hóa nội dung truyền thông rộng hơn.
Phim ngắn và thương mại điện tử thường có các dải phụ đề, lớp phủ, nhãn sản phẩm, khuôn mặt, đoạn cắt nhanh và định dạng chiến dịch lặp lại. Hệ thống được thiết kế xoay quanh những trường hợp này.
Điều phối trong môi trường sản xuất có nghĩa là chọn chế độ hoặc tùy chọn khôi phục đã được bật dựa trên mức độ chắc chắn về vùng, chuyển động, độ phức tạp, yêu cầu chất lượng, chi phí và quyền sử dụng. Tài liệu công khai không tuyên bố rằng mọi lựa chọn đều hoàn toàn tự động.
Video sạch tiếp tục được đưa vào các bước trích xuất phụ đề, dịch, lồng tiếng AI, đồng bộ hóa, kiểm duyệt, tải xuống và tự động hóa qua API. Sự kết nối đó biến một công cụ xóa thành quy trình Studio.
Các định nghĩa ngắn này phân biệt các công cụ kiểm soát của sản phẩm, những khái niệm thị giác máy tính nói chung và các mô hình giải thích được sử dụng trong bài viết này.
Đó là việc xóa văn bản được ghi trực tiếp vào các điểm ảnh của video thay vì được lưu trong một rãnh phụ đề riêng. Quy trình phải xác định văn bản cần xử lý, giới hạn nội dung được phép xóa, tái tạo hậu cảnh bị che khuất và trả về video sạch.
OCR có thể định vị và nhận dạng văn bản hiển thị nhưng không quyết định nội dung nào cần biến mất. Video còn chứa biển hiệu, màn hình điện thoại, nhãn sản phẩm, logo, văn bản giao diện và số hiệu mẫu có thể cần được giữ lại.
Đây là một mô hình hệ thống hữu ích để nhóm các kết quả phát hiện lặp lại trên những khung hình lân cận thành một sự kiện ứng viên. Trang này sử dụng mô hình đó để giải thích, không phải để công bố cách triển khai nội bộ chính xác của Weydub.
Các công cụ kiểm soát công khai gồm chế độ toàn khung hình, theo vùng và văn bản chuyển động, cùng với xóa, giữ lại, remove_only_ocr, và thời gian bắt đầu/kết thúc tùy chọn. Các tùy chọn này giúp giảm rủi ro nhưng không đảm bảo không xảy ra lỗi.
Inpainting hình ảnh lấp đầy vùng được che trong một khung hình. Inpainting video cũng sử dụng các khung hình lân cận, chuyển động hoặc ngữ cảnh theo thời gian để cải thiện tính liên tục, vì một khung hình tĩnh trông hợp lý vẫn có thể bị nhấp nháy khi phát chuyển động.
Sử dụng chế độ toàn khung hình khi chưa biết vị trí hoặc các vị trí nằm rải rác; dùng mặt nạ vùng cho các khu vực có vị trí có thể dự đoán hoặc được giới hạn theo thời gian; và dùng chế độ văn bản chuyển động cho phụ đề cuộn hoặc di chuyển, nếu tính năng này được bật.
Tài liệu API bao gồm Basic toàn màn hình, Basic theo vùng, Basic văn bản chuyển động, Advanced Lite, Advanced Pro theo hộp giới hạn và Advanced Pro toàn màn hình, với các tham số, chi phí và yêu cầu quyền sử dụng khác nhau.
Studio quản lý các dự án và lô xử lý có thể lặp lại. Works theo dõi trạng thái tác vụ và cung cấp đầu ra. API gửi các tác vụ bất đồng bộ và hỗ trợ callback hoặc polling sau khi các nhóm đã xác thực nội dung đa phương tiện đại diện.
Hãy xem xét phần đầu, giữa và cuối của các đầu ra đại diện, đặc biệt là khuôn mặt, bàn tay, đường viền sản phẩm, logo, nền có hoa văn, các cảnh cắt nhanh và khu vực có nhiều chuyển động. Không nên mô tả bất kỳ phương pháp xóa nào là không suy giảm chất lượng đối với mọi nguồn.
Các liên kết này được đưa vào làm tài liệu tham khảo kỹ thuật cho những độc giả muốn tìm hiểu hệ sinh thái nghiên cứu và mã nguồn mở rộng hơn. Chúng không nhằm khẳng định Weydub là lớp bao quanh bất kỳ dự án nào.
Với hầu hết các nhóm, quy trình phù hợp là: làm sạch video nguồn, trích xuất hoặc tạo phụ đề, dịch, lồng tiếng, xem xét và xuất nội dung. Weydub phát huy hiệu quả nhất khi việc xóa phụ đề là một phần của quy trình sản xuất hoàn chỉnh đó.