Chọn mô hình AI của bạn
Redline Desk chạy trên máy Windows 10 hoặc 11 của bạn. Bạn chọn mô hình phù hợp với nhu cầu bảo mật và độ phức tạp của báo cáo. Bạn quyết định mô hình nào nhận lệnh từ bạn.
Ba cách để chạy trí tuệ nhân tạo
Nhà cung cấp AI đám mây
Kết nối điểm cuối API tiêu chuẩn để sử dụng mô hình ngôn ngữ lớn được lưu trữ ở nơi khác. Lệnh của bạn sẽ được gửi đến nhà cung cấp đó, vì vậy hãy kiểm tra hợp đồng khách hàng về quy định lưu trữ dữ liệu. Tùy chọn này hoạt động tốt khi bạn cần mô hình lớn hơn để phù hợp với bản nháp dài hoặc độ chính xác cao về mức độ nghiêm trọng. Bạn kiểm soát URL điểm cuối và giữ khóa API trên máy tính của mình. Các bí mật trong đầu ra công cụ sẽ bị che trước khi rời khỏi máy của bạn.
Mô hình máy tính cục bộ
Chạy mô hình trực tiếp trên máy tính Windows của bạn bằng cách sử dụng tài nguyên phần cứng có sẵn. Không có dữ liệu nào rời khỏi máy của bạn khi sử dụng chế độ này, rất lý tưởng cho các báo cáo kiểm tra thâm nhập rất bí mật. Thư mục làm việc và nhật ký trò chuyện của bạn đều ở cục bộ. Bạn có thể kiểm tra điểm cuối bằng nút Kiểm tra, nút này hiển thị thời gian phản hồi và kích thước cửa sổ ngữ cảnh.
Mô hình tích hợp
Sử dụng mô hình mặc định đi kèm với ứng dụng để sử dụng ngay lập tức mà không cần cấu hình bổ sung. Tùy chọn này thuận tiện cho các tác vụ nhanh như định dạng một phát hiện đơn lẻ hoặc kiểm tra sự khác biệt. Nó sẵn sàng sử dụng mà không cần điểm cuối của riêng bạn. Bạn có thể chuyển sang mô hình đám mây hoặc cục bộ sau này nếu báo cáo yêu cầu độ phức tạp cao hơn.
Xác minh kết nối của bạn
Nhấn nút Kiểm tra để kiểm tra điểm cuối đã chọn của bạn. Công cụ hiển thị thời gian phản hồi và xác nhận kích thước cửa sổ ngữ cảnh. Bạn thấy kết quả ngay lập tức trước khi bắt đầu bất kỳ nhiệm vụ viết nào.
Khớp sức mạnh mô hình với nhiệm vụ
Gửi các bước khó cho mô hình lớn hơn bằng cách sử dụng run_on_model cho logic phức tạp. Sử dụng các mô hình nhỏ hơn cho các chỉnh sửa nhỏ hoặc ghi tệp đơn giản. Việc điều phối nhiệm vụ có thể song song hóa các tác nhân con để soạn nhiều phát hiện cùng một lúc. Bạn quyết định mô hình nào xử lý phần nào của báo cáo.
Chất lượng khác nhau giữa các mô hình, vì vậy hãy luôn xem lại sự khác biệt trước khi chấp nhận. Sử dụng chế độ Ask first để tạm dừng trước mọi hành động thay đổi điều gì đó. Bạn thấy chính xác văn bản được thêm vào báo cáo của mình. Điều này đảm bảo mọi phát hiện khớp chính xác với ghi chú và bằng chứng của bạn.
