AI의 보안 경고, Cloudflare 스킬은 어떻게 검증할까

보안에서 권한의 경계는 ‘이 사람에게 이 자료를 보여 줘도 되는가’를 가르는 선입니다. 파일 이름이나 함수가 수상해 보여도, 실제 요청 경로에서 권한 확인이 막는다면 그 관측만으로 정보 유출이라고 할 수 없습니다.

아래는 동작을 설명하는 가상의 청구서 서비스입니다. 이용자 B가 A의 청구서를 요구했다고 가정합니다. 실서비스에서 실행한 결과가 아니라, 차단·미확인·노출을 구분하는 예시입니다.

세 번째 경우도 시험용 청구서가 보였다는 범위까지입니다. 전체 고객 정보가 빠져나갔다거나 서버 전체를 장악했다고 확대해서 쓰면 안 됩니다. 첫 번째 경우 역시 이 경로가 막혔다는 뜻이지, 서비스 전체에 결함이 없다는 인증은 아닙니다.

한 사람이 자기 추측에 맞는 자료만 고를 수 있듯, AI도 처음 만든 설명을 그대로 반복할 수 있습니다. 이 도구는 후보를 찾은 주체와 별개의 검증자가 근거를 다시 읽고 반박하도록 설계했습니다. 검증 절차

가상 청구서 사례라면 첫 AI가 ‘A의 자료가 나올 수 있다’고 적었을 때, 검증자는 요청자 신원·청구서 소유자 확인·실제 반환 내용을 차례로 봅니다. 권한 확인이 앞에서 차단한다는 증거가 나오면 후보를 반박하고, 실행 환경이 없어 결론을 낼 수 없으면 무엇이 비어 있는지 남기는 식입니다.

보고서는 ‘문제 확인’, ‘추가 확인’, ‘이 의심은 성립하지 않음’을 나눠 기록합니다. 결론에 필요한 사실이 빠진 ‘추가 확인’에는 심각도 점수도 붙이지 않습니다. 보고서 스키마

항목을 정해 파일로 저장하면 다른 프로그램도 결과를 읽기 쉽습니다. 그러나 양식이 맞다는 검사만으로 내용까지 사실이 되지는 않습니다. 영수증의 칸을 빠짐없이 채웠다고 실제 결제까지 증명되는 것은 아닌 것과 같습니다.

공식 요구 조건에는 도구를 사용하고 여러 AI가 일을 나눌 수 있는 개발용 AI, 검증 프로그램을 실행할 Node.js 환경, 실행을 제한하는 운영체제 수준의 샌드박스가 있습니다. 샌드박스는 시험할 프로그램이 실제 계정·파일·외부 서비스에 손대지 못하도록 격리하는 환경입니다. 실행 경계

읽기만 하는 검토와 코드를 실제 실행하는 확인은 구분해야 합니다. 지침은 외부 통신 차단, 제한된 쓰기 경로, 자원·시간 제한 등을 갖추지 못하면 대상 코드를 실행하지 말고 미확인으로 남기도록 합니다. 이 기사에서는 스킬 설치나 보안 점검을 실행하지 않았습니다.