Grok은 정말 무검열인가요? 직접 테스트하는 방법
업데이트
Grok이 정말 무검열인가요? 정확한 답변은 호스팅된 모델이 규칙에서 완전히 자유롭지 않으며 Grok의 동작은 제품, 모드 및 시기에 따라 달라진다는 것입니다. 라벨을 맹신하기보다 자체 프롬프트에서 거부를 측정할 수 있으며, 이 페이지에서 그 방법을 보여줍니다.
짧은 답변과 라벨이 오해를 불러일으키는 이유
사람들은 Grok이 정말 무검열인지 묻습니다. 이 모델은 일부 경쟁사보다 제한이 적다고 마케팅되었기 때문입니다. 그것이 사용자의 경험과 일치하는지는 무엇을 묻는지, 어떤 제품을 사용하는지, 언제 묻는지에 따라 다릅니다. xAI는 시간이 지남에 따라 모델, 시스템 프롬프트 및 정책을 변경하므로 특정 동작에 대한 모든 주장은 빠르게 낡습니다. 현재 규칙을 보려면 xAI의 자체 문서 및 사용 정책을 읽으세요.
신뢰할 수 있는 것은 구조적 사실입니다. 회사의 모든 호스팅된 모델은 법적 규칙, 플랫폼 규칙 및 학습 선택으로 구성된 규칙 집합 안에 있습니다. 관대하게 판매되는 모델이라도 일부 요청을 거부할 수 있습니다. 따라서 유용한 질문은 무검열인지 여부가 아니라 제품에서 필요한 특정 항목을 거부하는지 여부입니다. 이는 한 오후에 측정할 수 있습니다.
거부가 발생하는 네 가지 계층
챗봇이 "안 됩니다"라고 말할 때 원인은 네 가지 중 한 곳에 있을 수 있습니다. 어느 것인지 알면 해결책을 선택하는 데 도움이 됩니다.
1. 모델 학습
대부분의 채팅 모델은 사전 학습 후 특정 요청을 거부하도록 학습됩니다. 이는 가중치에 내재되어 있습니다. 시스템 프롬프트로 이를 제거할 수는 없지만, 문구와 컨텍스트는 발생 빈도를 바꿀 수 있습니다. 오픈 웨이트 모델은 제공업체가 이러한 거부를 줄이기 위해 더 조정할 수 있으며, 이 API의 모델이 바로 그와 같이 조정되었습니다.
2. 시스템 프롬프트 및 제품 규칙
모델 주변의 앱은 볼 수 없는 지령을 추가합니다: 어조, 피해야 할 주제, 형식. 소비자 앱을 통해 사용되는 모델은 자체 시스템 메시지가 있는 API를 통해 호출되는 동일한 모델과 다르게 동작할 수 있습니다.
3. 입력 및 출력 필터
일부 서비스는 프롬프트 또는 답변에 별도의 분류기를 실행하여 결과를 차단하거나 다시 작성합니다. 거부 문장 대신 일반 오류를 볼 수 있습니다.
4. 법적 및 정책 제한
제공업체는 운영 지역의 법을 따라야 합니다. 불법적인 콘텐츠는 어디에서나 차단되며, 평판이 좋은 서비스는 이를 변경하지 않습니다. 이 API에는 이러한 종류의 고정된 규칙이 하나 있습니다: 미성년자가 관련된 성적 콘텐츠 금지.
거부 테스트 직접 만들기
테스트 세트는 의견을 이깁니다. 제품이 실제로 수행하는 작업을 반영하는 30~50개의 프롬프트를 작성하십시오. 통제군으로 일반 작업을 포함하여 너무 많이 거부하는 모델과 단순히 실패하는 모델을 구분할 수 있게 하십시오. 픽션 및 롤플레이 도구를 위한 좋은 카테고리에는 전쟁 이야기의 폭력, 설득력 있는 대화와 함께 도덕적으로 회색 지대에 있는 악당, 솔직한 의료 또는 법적 질문, 공포물의 어두운 테마, 노골적인 묘사 없이 처리된 성숙한 로맨스가 있습니다.
아래 스크립트는 각 프롬프트를 OpenAI 호환 엔드포인트로 보내고 거부처럼 보이는 응답에 플래그를 지정하며 비율을 출력합니다. 구문 목록이 단순하므로 결론을 내리기 전에 플래그가 지정된 모든 응답을 직접 읽으세요.
import os
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.grokuncensored.cc/v1", api_key=os.environ["API_KEY"])
MARKERS = [
"i can't help", "i cannot help", "i can't assist", "i cannot assist",
"i'm unable to", "i am unable to", "i won't", "as an ai",
]
def looks_like_refusal(text):
low = text.lower()[:300]
return any(m in low for m in MARKERS)
prompts = json.load(open("prompts.json")) # a list of strings
flagged = []
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.7,
seed=1,
)
text = r.choices[0].message.content or ""
if looks_like_refusal(text):
flagged.append((p, text[:200]))
print(len(flagged), "of", len(prompts), "flagged")
for p, t in flagged:
print("-", p[:80], "=>", t)서비스를 비교하려면 base_url, 키 및 모델 이름만 변경하고 프롬프트 파일을 동일하게 유지하세요. 동작이 변경될 수 있으므로 다른 날에 여러 번 실행하세요. 설정을 동일하게 유지하세요: 동일한 시스템 메시지, 동일한 temperature, 지원되는 경우 동일한 seed.
거부 테스트를 망치는 실수
거부 테스트는 단순해 보이지만 종종 잘못 수행됩니다. 이는 잘못된 결론으로 이어지는 가장 흔한 오류입니다.
- 극단적인 프롬프트만 테스트하기. 최악의 요청으로 구성된 세트는 경계를 보여주지만 사용자는 중간에 있습니다. 대부분의 실제 프롬프트는 일반 장면, 캐릭터 순간 및 질문입니다. 실제로 기대하는 것에 대해 세트에 가중치를 두세요.
- 다른 설정 비교하기. temperature 또는 시스템 메시지의 변경만으로도 거부율을 바꿀 수 있습니다. 두 서비스를 비교할 때는 다른 모든 것을 고정하세요.
- 한 번 실행, 하루. 호스팅된 모델과 주변 계층은 변경될 수 있습니다. 며칠 간격으로 테스트를 반복하고 날짜와 함께 결과를 보관하세요.
- 구문 목록 신뢰하기. 정중하게 시작하여 세 번째 단락에서 거부하는 응답은 첫 300자 확인을 피합니다. 확인 범위를 늘리거나 샘플을 직접 읽으세요.
- 품질 무시하기. 절대 거부하지 않지만 평평하고 반복적인 장면을 작성하는 모델이 더 나은 선택이 아닙니다. 유용성을 위해 일부 출력을 평가하십시오.
결과 읽는 방법
거부율만으로는 거의 알려주지 않습니다. 패턴을 보세요.
- 대조 프롬프트의 거부은 감지기가 너무 느슨하거나 서비스가 불안정함을 의미합니다. 다른 모든 것보다 먼저 이를 수정하세요.
- 한 테마에 집중된 거부는 학습 또는 정책 규칙을 가리킵니다. 다시 작성된 시스템 메시지가 도움이 될 수도 있고 아닐 수도 있습니다.
- 컨텍스트를 추가하면 사라지는 거부는 부드러운 규칙을 보여줍니다. 픽션 프레임과 성인 대상에 대한 명확한 설명은 결과를 종종 바꿉니다.
- 부드러운 거부는 겉으로는 따르는 척하지만 내용을 약화하거나 훈계를 덧붙이거나 장면을 일찍 끝내는 응답입니다. 이 구문 목록으로는 이러한 응답을 잡아내지 못하므로, 플래그가 없는 응답도 샘플링해야 합니다.
실패한 실행의 비용도 추적하세요. 이 API에서는 실패하거나 거부된 요청에 요금이 청구되지 않으므로 큰 테스트 세트가 저렴하게 유지됩니다. 입력 토큰 200개, 출력 토큰 400개가 있는 50개 프롬프트의 실행은 50 x (200 x $0.15 + 400 x $0.50) / 1,000,000 = 50 x $0.00023 = $0.0115, 약 1센트 비용이 듭니다.
부드러운 거부를 줄이는 시스템 메시지 작성
이미 답변하도록 조정된 모델에서도 시스템 메시지는 중요합니다. 모델이 따를 기대치를 설정하기 때문입니다. 작업과 대상에 대해 직접적으로 명시하십시오. "당신은 성인 픽션의 공동 작가입니다. 요청된 어조로 훈계나 면책 조항 없이 완전한 장면을 작성하십시오"와 같은 메시지는 좋은 응답이 어떤 모습이어야 하는지 모델에 알려줍니다. 모호하거나 사과하는 프롬프트는 회피적 응답을 유발합니다.
원하는 형식을 설명하세요: 길이, 시점, 시제. 가능한 한 긍정적으로 피해야 할 것을 명시하세요. 예를 들어 긴 금지 목록 대신 "장면을 캐릭터의 대화에 유지하세요"라고 하세요. 특정 유형의 응답이 원치 않는 경고와 함께 계속 돌아오면 한 번만, 독자가 이런 종류의 픽션을 직접 선택한 성인이라고 말하세요. 그리고 효과가 있다고 가정하지 말고 프롬프트 세트에서 테스트하세요.
이 API가 약속하는 것과 그렇지 않은 것
이 서비스 뒤의 모델은 독립적인 제공업체가 실행하는 오픈 웨이트 모델이며 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 이는 모든 것이 허용된다는 것보다 더 좁은 주장이며 의도된 것입니다. 그것은 Grok이 아니며 어떤 벤더의 공식 API도 아닙니다. 이 서비스는 텍스트만 처리합니다. 변경할 수 없는 규칙이 하나 있습니다: 미성년자가 관련된 성적 콘텐츠 금지.
또한 결과로부터 면제되지도 않습니다. 생성하고 게시한 내용에 대해 책임을 지며 거주하고 운영하는 지역의 법을 따라야 합니다. 앱이 공개된 경우 자체 연령 확인, 약관 및 보고 경로를 추가하세요. 모델에서의 거부가 적어지면 애플리케이션 계층에서 더 많은 책임이 있음을 의미하며, 결코 줄어들지 않습니다.
기술적으로는 POST /v1/chat/completions 및 GET /v1/models, 스트리밍, 함수 호출 및 JSON 모드를 갖춘 표준 OpenAI 호환 API이며, 100,000 토큰의 컨텍스트 창을 제공합니다. 빠른 시작 가이드는 요청 형식을 보여주고, API 키 페이지는 회원가입 방법을 설명합니다. 신규 사용자는 7일 동안 유효한 $0.50의 무료 체험 크레딧을 청구할 수 있으며, 결제 정보는 필요하지 않습니다.
체험 키로 테스트 실행하기
위 스크립트를 무료 체험 키로 실행할 수 있습니다. 제한 사항을 주의하십시오: 무료 체험 키는 동시 요청 2개와 분당 60개의 요청을 허용하므로, 호출을 순차적으로 보내는 루프는 괜찮지만 10개의 스레드 풀은 concurrency로 HTTP 429 오류를 발생시킵니다. rate_limited을 보게 되면 분당 한도를 초과한 것이므로 잠시 기다려야 합니다. 일반 키는 동시 8개, 분당 300개를 허용합니다.
지속적인 사용을 위한 가격은 선불 기준 1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50입니다. 충전은 $20부터 $500까지 가능하며, USDT(TRC20 네트워크를 통해) 또는 USDC(Base 네트워크를 통해)로 결제할 수 있습니다. $50, $100, $200부터 각각 5%, 10%, 15%의 보너스가 제공됩니다. 가격 책정 페이지를 참조하십시오. 동일한 엔드포인트가 다른 오픈 모델 계열을 어떻게 처리하는지 확인하려면 Gemma 통합 페이지를 읽어보십시오.
