📡 Security 지금 흐름
AI 애플리케이션 전반에 걸쳐 취약점을 테스트하고 검증하는 도구와 프레임워크가 핵심적으로 부상하고 있다. 특히 RAG 파이프라인이나 모델의 작동 방식을 구조화하여 보안 기술을 매핑하거나, 개인 식별 정보를 탐지 및 비식별화하는 데이터 보호 기법에 대한 관심이 높다. 전반적으로 AI 시스템의 안전성과 신뢰성을 확보하기 위한 자동화된 감사 및 테스트 메커니즘 구축으로 초점이 이동하고 있다.
ai-securitysecurityai-agentsllm-securitymcpsupply-chain-security
pathwaycom/llm-app
99
다양한 데이터 소스를 연동하는 RAG 및 AI 파이프라인 클라우드 템플릿을 제공한다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 59028
★ 59,0282026-07-05이슈 10
elder-plinius/CL4R1T4S
98
다양한 AI 모델들의 시스템 프롬프트를 모아 공개하는 저장소입니다.
SecurityAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 45708
★ 45,7082026-07-14이슈 120
🚀usestrix/strix
98
앱의 취약점을 찾아 수정하는 오픈소스 AI 침투 테스트 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 42325
★ 42,3252026-07-18이슈 199
The-Art-of-Hacking/h4cker
97
윤리적 해킹, 취약점 연구 등 보안 관련 방대한 자료를 모아 놓은 저장소입니다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 28486
★ 28,4862026-06-29이슈 2
🚀mukul975/Anthropic-Cybersecurity-Skills
97
AI 에이전트를 위한 구조화된 사이버 보안 기술 목록을 여러 프레임워크에 매핑했습니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 25724
★ 25,7242026-06-26이슈 41
promptfoo/promptfoo
97
프롬프트와 에이전트의 성능을 테스트하고 취약점을 검사하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 23376
★ 23,3762026-07-18이슈 419
microsoft/mcp-for-beginners
96
다양한 언어로 모델 컨텍스트 프로토콜의 기본 개념과 실습을 제공한다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 16777
★ 16,7772026-07-17이슈 2
data-privacy-stack/presidio
95
텍스트, 이미지 등 다양한 데이터에서 개인 식별 정보를 탐지하고 비식별화하는 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 10056
★ 10,0562026-07-16이슈 82
BoundaryML/baml
95
프롬프트 엔지니어링에 공학적 요소를 추가하는 AI 프레임워크입니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 8564
★ 8,5642026-07-18이슈 279
NVIDIA/garak
95
LLM의 취약점을 스캔하고 평가하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 8487
★ 8,4872026-07-14이슈 376
lintsinghua/DeepAudit
94
코드 취약점 발굴을 위한 다중 에이전트 기반의 자동화된 코드 감사 시스템입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 6659
★ 6,6592026-07-07이슈 91
maximhq/bifrost
94
다양한 모델을 지원하는 고성능 엔터프라이즈 AI 게이트웨이입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 6592
★ 6,5922026-07-18이슈 646
Giskard-AI/giskard-oss
94
LLM 에이전트의 평가 및 테스트를 위한 오픈소스 라이브러리입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5644
★ 5,6442026-07-17이슈 84
FlorianBruniaux/claude-code-ultimate-guide
94
클로드 코드에 대한 에이전트 워크플로우와 실용적인 템플릿을 담은 종합 가이드입니다.
SecurityPythonCC-BY-SA-4.0
최근 30일 내 활발 · 라이선스 CC-BY-SA-4.0 · stars 5487
★ 5,4872026-07-17이슈 14
microsoft/agent-governance-toolkit
93
자율 AI 에이전트의 정책 적용, 신뢰성 확보 및 보안을 위한 도구 모음입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4858
★ 4,8582026-07-17이슈 106
🆕perplexityai/bumblebee
93
로컬 패키지 및 개발 도구 메타데이터를 스캔하여 공급망 보안 취약점을 확인합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 4810
★ 4,8102026-07-16이슈 35
makcedward/nlpaug
93
자연어 처리 모델 학습을 위한 데이터 증강 기능을 제공합니다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4662
★ 4,6622026-07-17이슈 88
Tencent/AI-Infra-Guard
93
AI 생태계를 보호하는 전방위적인 AI 레드팀 테스트 플랫폼입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 4144
★ 4,1442026-07-16이슈 14
microsoft/PyRIT
93
생성형 AI 시스템의 위험을 사전에 식별하도록 돕는 오픈소스 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4139
★ 4,1392026-07-18이슈 96
shuvonsec/claude-bug-bounty
93
터미널에서 AI 기반의 취약점 탐지 및 보고서 생성을 지원합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 3982
★ 3,9822026-07-09이슈 13
nolabs-ai/nono
92
AI 에이전트를 빠르고 간편하게 안전한 환경에서 테스트할 수 있게 합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3042
★ 3,0422026-07-17이슈 123
GH05TCREW/pentestagent
92
블랙박스 보안 테스트를 위한 AI 에이전트 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2797
★ 2,7972026-07-07이슈 18
skills/secure-code-game
92
개발자가 재미있게 안전한 코딩을 배울 수 있는 온라인 실습 환경입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2783
★ 2,7832026-07-06이슈 1
sheeki03/tirith
92
개발자와 AI 에이전트를 위한 터미널 보안 기능을 제공합니다.
SecurityRustAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 2604
★ 2,6042026-07-18이슈 25
beelzebub-labs/beelzebub
92
AI를 활용하여 시스템 가상화를 위한 안전한 로우코드 속임수 실행 프레임워크입니다.
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 2091
★ 2,0912026-07-16이슈 6
0xSteph/pentest-ai-agents
92
클로드 코드를 활용하여 모의 침투 테스트를 위한 보안 연구 보조 기능을 제공합니다.
SecurityShellMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2015
★ 2,0152026-06-22이슈 3
stacklok/toolhive
91
모델 컨텍스트 프로토콜 서버를 실행하고 관리하는 기업용 플랫폼입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1951
★ 1,9512026-07-18이슈 287
msoedov/agentic_security
91
에이전트 기반 LLM 취약점을 스캔하고 레드팀 테스트를 수행하는 키트이다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1932
★ 1,9322026-06-23이슈 70
lirantal/npq
91
npm 패키지를 설치 전 감사하여 안전하게 설치하는 도구입니다.
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1759
★ 1,7592026-07-17이슈 6
guacsec/guac
91
소프트웨어 보안 메타데이터를 고정밀 그래프 데이터베이스로 집계합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1517
★ 1,5172026-07-17이슈 125
🆕beenuar/AiSOC
91
AI 기반 보안 관제 기능을 제공하며 위협 탐지 및 대응을 돕는 오픈소스 시스템이다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1509
★ 1,5092026-07-18이슈 6
🆕ifixai-ai/iFixAi
91
AI의 오류와 사각지대를 다양한 관점에서 검사하여 안전성을 진단하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1490
★ 1,4902026-07-18이슈 1
jiep/offensive-ai-compilation
91
공격적 인공지능 관련 유용한 자료들을 모아 놓은 목록입니다.
SecurityHTMLCC-BY-SA-4.0
최근 30일 내 활발 · 라이선스 CC-BY-SA-4.0 · stars 1406
★ 1,4062026-07-03이슈 6
0xSteph/pentest-ai
91
OWASP Top 10 취약점을 위한 다양한 도구와 에이전트를 갖춘 보안 테스트 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1342
★ 1,3422026-07-05이슈 2
🆕larlarua/AutoCVE
91
소스 코드 감사 및 취약점 검증을 위한 에이전트 기반 자동 CVE 발견 플랫폼입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 1304
★ 1,3042026-07-12이슈 14
CyberStrikeus/CyberStrike
90
AI를 활용하여 다양한 환경에서 공격 보안 테스트를 수행하는 도구 모음입니다.
SecurityTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 1228
★ 1,2282026-07-17이슈 10
step-security/harden-runner
90
깃허브 액션 러너의 네트워크 및 프로세스 활동을 모니터링하는 보안 에이전트입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1227
★ 1,2272026-07-07이슈 48
mrwadams/attackgen
90
LLM과 MITRE ATT&CK를 활용해 맞춤형 보안 사고 대응 시나리오를 생성하는 도구입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 1225
★ 1,2252026-07-16이슈 12
cvs-health/uqlm
90
언어 모델의 환각을 불확실성 정량화를 기반으로 탐지하는 파이썬 패키지입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1185
★ 1,1852026-07-09이슈 23
safedep/vet
90
오픈소스 패키지의 악성 코드를 분석하여 보안 취약점을 보호합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1092
★ 1,0922026-07-13이슈 98
mrwadams/stride-gpt
90
GPT 모델을 활용하여 STRIDE 방법론 기반의 위협 모델링을 수행하는 AI 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1079
★ 1,0792026-07-16이슈 3
ZhangJinHaHaHa/AgentLens
90
필요한 에이전트를 찾고 자신만의 에이전트를 발행하는 신뢰 기반 거래 플랫폼입니다.
SecurityTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 1044
★ 1,0442026-07-14이슈 9
reconmap/reconmap
90
정보보안팀과 MSSP를 위한 종단 간 보안 운영 관리 플랫폼입니다.
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 940
★ 9402026-07-12이슈 11
Pantheon-Security/medusa
90
AI 기반 보안 스캐너로 코드 취약점 및 민감 정보 유출을 검사합니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 938
★ 9382026-06-24이슈 2
Commando-X/vuln-bank
89
웹 애플리케이션 및 API 보안 테스트 연습을 위한 취약점 은행입니다.
SecurityHTMLMIT
최근 30일 내 활발 · 라이선스 MIT · stars 791
★ 7912026-06-21이슈 9
xalgord/xalgorix
89
자율 AI 에이전트를 이용해 실시간으로 취약점을 탐지하고 공격을 수행합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 773
★ 7732026-07-17이슈 1
luckyPipewrench/pipelock
89
AI 에이전트의 보안을 위한 방화벽으로 통신 트래픽을 검사하고 감사 증거를 생성합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 771
★ 7712026-07-18이슈 3
toby-bridges/api-relay-audit
89
AI API 중계 및 LLM 프록시의 보안 취약점을 로컬에서 감사합니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 756
★ 7562026-07-13이슈 22
arcjet/arcjet-js
89
AI 보안 기능을 제공하여 봇 및 자동화 공격으로부터 AI 사용을 보호하는 라이브러리입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 675
★ 6752026-07-16이슈 8
chrisliu298/awesome-llm-unlearning
89
대규모 언어 모델의 학습된 지식을 제거하는 자료 모음입니다.
SecurityApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 613
★ 6132026-07-14이슈 0
framerslab/agentos
89
다양한 LLM을 활용하는 지능형 에이전트 구동 및 오케스트레이션 프레임워크이다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 599
★ 5992026-07-18이슈 9
mensfeld/code-on-incus
89
AI 에이전트에게 격리된 환경을 제공하고 위협을 자동으로 탐지 및 차단합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 594
★ 5942026-07-18이슈 24
chainloop-dev/chainloop
89
소프트웨어 공급망 증명 및 정책 엔진을 위한 증거 저장소입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 570
★ 5702026-07-17이슈 13
PacificAI/langtest
89
안전하고 효과적인 언어 모델을 위한 테스트 및 평가 툴킷입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 563
★ 5632026-07-17이슈 6
BlessedRebuS/Krawl
89
가짜 웹 애플리케이션을 만들어 크롤러를 속이는 경량의 보안 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 553
★ 5532026-07-12이슈 10
boostsecurityio/poutine
88
빌드 파이프라인의 공급망 취약점을 검사하는 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 490
★ 4902026-07-09이슈 15
bytedance/vArmor
88
컨테이너 워크로드를 시스템 호출부터 프로토콜까지 제어하는 보안 강화 시스템이다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 486
★ 4862026-07-13이슈 4
duriantaco/skylos
88
병합 전 코드에서 사장된 코드, 보안 버그 등을 찾아내는 로컬 우선 PR 스캐너입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 473
★ 4732026-07-18이슈 3
h5i-dev/h5i
88
AI 코딩 에이전트를 위한 격리된 작업 공간과 다중 에이전트 오케스트레이션을 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 470
★ 4702026-07-16이슈 31
TheLunarCompany/lunar
88
에이전트 네이티브 MCP 게이트웨이를 통한 거버넌스 및 보안 기능을 제공한다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 468
★ 4682026-07-16이슈 10
safedep/pmg
88
프록시와 샌드박스를 이용해 악성 오픈소스 패키지로부터 개발자를 보호합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 466
★ 4662026-07-17이슈 36
SponsioLabs/Sponsio
88
확률적 AI 에이전트를 위한 결정론적 안전 솔루션을 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 465
★ 4652026-07-17이슈 4
OWASP/DockSec
88
AI 기반 도커 보안 스캐너로 취약점을 쉬운 영어로 설명합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 460
★ 4602026-07-18이슈 28
aisa-group/PostTrainBench
88
CLI 에이전트의 모델을 단일 GPU에서 파인튜닝하는 성능을 측정합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 458
★ 4582026-07-17이슈 17
🆕Brain0-ai/brain0
88
AI가 작성한 코드의 결정 과정을 추적하고 검증하는 도구입니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 452
★ 4522026-07-02이슈 0
owasp-dep-scan/blint
88
실행 파일의 보안 속성과 기능을 검사하고 소프트웨어 구성 명세서를 생성하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 449
★ 4492026-06-25이슈 41
kpcyrd/rebuilderd
88
바이너리 패키지를 독립적으로 검증하여 재현 가능한 빌드를 지원합니다.
SecurityRustGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 428
★ 4282026-07-17이슈 46
dataiku/kiji-proxy
88
오픈AI 요청에 대한 개인정보 보호 프록시 기능을 제공합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 412
★ 4122026-07-16이슈 29
ZaxbyHub/opencode-swarm
88
아키텍처 중심의 에이전트 군집 플러그인으로 코드 생성 및 검토를 지원한다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 404
★ 4042026-07-17이슈 93
🆕secureagentics/Adrian
88
AI 에이전트의 악성 도구 사용이나 프롬프트 주입을 실시간으로 감지하고 제어하는 보안 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 398
★ 3982026-07-17이슈 7
arnica/depsguard
88
패키지 매니저 설정을 공급망 공격으로부터 강화합니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 393
★ 3932026-07-15이슈 20
CoWork-OS/CoWork-OS
88
코딩, 지식 작업 등을 위한 로컬 기반의 개인 에이전트 운영체제입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 388
★ 3882026-07-18이슈 8
MinghuiChen43/awesome-trustworthy-deep-learning
88
신뢰할 수 있는 딥러닝 관련 논문들을 모아 놓은 목록입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 387
★ 3872026-07-02이슈 0
Justin0504/Aegis
88
AI 에이전트의 실행 정책을 검증하고 안전하게 제어하는 시스템입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 368
★ 3682026-07-18이슈 3
boostsecurityio/smokedmeat
88
빌드 파이프라인의 보안 위험을 시연하는 CI/CD 레드팀 프레임워크입니다.
SecurityGoAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 367
★ 3672026-06-27이슈 9
canyonroad/agentsh
88
AI 에이전트 실행 단계의 보안을 정책 기반으로 강제하고 감사하는 시스템입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 359
★ 3592026-07-01이슈 8
Agent-Threat-Rule/agent-threat-rules
88
AI 에이전트 보안 위협에 대한 오픈 탐지 규칙 표준을 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 318
★ 3182026-07-18이슈 15
ttguy0707/CyberClaw
87
차세대 투명 에이전트 아키텍처를 제공하며 안전성과 기능을 강화합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 313
★ 3132026-06-25이슈 1
rust-stdx/stdx
87
러스트의 확장 표준 라이브러리로 간편성과 성능을 제공한다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 312
★ 3122026-07-14이슈 1
schmitech/orbit
87
개인 환경에서 사용할 수 있는 OpenAI 호환 AI 게이트웨이입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 310
★ 3102026-07-17이슈 5
interlynk-io/sbomqs
87
SBOM의 품질과 규정 준수를 검사하는 종합 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 297
★ 2972026-07-13이슈 24
agamm/claude-code-owasp
87
OWASP 보안 모범 사례를 적용한 클로드 코드 스킬을 제공합니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 293
★ 2932026-06-28이슈 0
NodeSecure/js-x-ray
87
자바스크립트와 노드 환경의 보안 취약점을 정적으로 분석하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 286
★ 2862026-07-16이슈 10
backbay-labs/clawdstrike
87
개발자 워크스테이션과 에이전트 군집을 위한 AI 기반 보안 솔루션을 제공합니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 283
★ 2832026-07-15이슈 61
agentcontrol/agent-control
87
대규모 환경에서 에이전트의 실행 시간 동작을 제어하는 중앙 집중식 평면입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 277
★ 2772026-07-13이슈 34
🆕eli-labz/Cognitive-Core-Skills
87
LLM과 AI 에이전트의 핵심 인지 능력을 분류한 범용 지식 체계입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 274
★ 2742026-07-05이슈 0
lissy93/bug-bounties
87
활성 버그 바운티 프로그램 및 취약점 공개 프로그램을 모아놓은 디렉토리입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 273
★ 2732026-07-18이슈 0
praetorian-inc/augustus
87
프롬프트 주입 및 적대적 공격을 탐지하는 LLM 보안 테스트 프레임워크입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 258
★ 2582026-07-17이슈 24
AI45Lab/OpenRT
87
다양한 공격 기법을 갖춘 멀티모달 LLM 레드팀 테스트 프레임워크입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 258
★ 2582026-07-17이슈 1
SecurityClaw/SecurityClaw
87
오픈소스 데이터를 모니터링하고 LLM으로 이상 징후를 검증하는 자율 보안 에이전트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 254
★ 2542026-07-16이슈 2
getnora-io/nora
87
다양한 형식의 아티팩트를 관리하는 가볍고 독립적인 레지스트리입니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 243
★ 2432026-07-18이슈 24
PrismorSec/prismor
87
AI 에이전트의 위험한 도구 호출을 실행 전에 탐지하는 런타임 방화벽입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 240
★ 2402026-07-17이슈 13
KryptosAI/mcp-observatory
87
MCP 서버에 대한 CI 기반 보안 테스트 및 상태 점검을 수행합니다.
SecurityHTMLMIT
최근 30일 내 활발 · 라이선스 MIT · stars 237
★ 2372026-07-18이슈 54
ckotzbauer/sbom-operator
87
쿠버네티스 클러스터의 모든 이미지를 여러 대상으로 목록화합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 233
★ 2332026-07-18이슈 8
telagod/code-abyss
87
AI 코딩 에이전트에게 개성을 부여하고 스타일과 기술을 조합할 수 있게 합니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 232
★ 2322026-07-09이슈 0
🆕cicd-sensor/cicd-sensor
87
GitHub Actions와 GitLab CI/CD를 위한 오픈소스 eBPF 런타임 보안 센서입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 226
★ 2262026-07-17이슈 9
🆕jestasecurity/thumper
87
npm 워밍 공격에 대비하여 가짜 자격 증명으로 침해 여부를 감지하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 225
★ 2252026-07-16이슈 39
ReversecLabs/spikee
87
프롬프트 주입 공격을 평가하고 악용하기 위한 간단한 키트입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 222
★ 2222026-07-13이슈 5
🆕agynio/platform
87
쿠버네티스 기반으로 AI 에이전트를 기업 인프라에 배포하고 제어하는 런타임입니다.
SecurityTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 217
★ 2172026-06-25이슈 0
oracle/macaron
87
다양한 빌드 시스템과 CI/CD를 지원하는 공급망 보안 분석 프레임워크입니다.
SecurityPythonUPL-1.0
최근 30일 내 활발 · 라이선스 UPL-1.0 · stars 208
★ 2082026-07-17이슈 154
🆕GaaraZhu/gate
87
데이터와 AI 사이에 결정론적인 개인정보 보호 경계를 제공합니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 206
★ 2062026-06-19이슈 0
🆕madguyevans-creator/Fintech-CUI-Trust-Framework
87
고위험 분야 대화형 AI 에이전트의 신뢰 경계를 정의하는 개방형 엔지니어링 거버넌스 표준입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 200
★ 2002026-07-07이슈 0
permit0-ai/permit0
87
AI 에이전트의 부적절한 행동을 사전에 막는 실행 전 권한 부여 계층입니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 200
★ 2002026-06-22이슈 17
HeadyZhang/agent-audit
87
LLM 에이전트의 프롬프트 주입 및 설정을 정적으로 검사하는 보안 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 199
★ 1992026-07-04이슈 8
0xNyk/awesome-agent-cortex
86
AI 에이전트 관련 프레임워크와 프로토콜을 모아놓은 목록입니다.
SecurityJavaScriptCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 195
★ 1952026-07-17이슈 19
Idun-Group/idun-agent-platform
86
LangGraph나 Google ADK 에이전트를 배포 가능한 FastAPI 서비스로 구동하는 오픈소스 런타임입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 194
★ 1942026-07-16이슈 104
yzhao062/anywhere-agents
86
다양한 AI 에이전트 설정을 통합 관리하고 안전성을 강화하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 193
★ 1932026-07-12이슈 6
🆕rzhub/GateMem
86
다중 주체 공유 메모리 LLM 에이전트의 메모리 거버넌스 평가 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 190
★ 1902026-06-21이슈 0
gaur-avvv/XGPT-WormGPT
86
불법적인 작업을 수행할 수 있도록 설계된 고급 AI 모델입니다.
SecurityGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 184
★ 1842026-06-29이슈 0
sjkim1127/Reversecore_MCP
86
AI 에이전트가 리버스 엔지니어링 및 보안 분석을 수행하도록 돕는 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 182
★ 1822026-07-16이슈 5
boostsecurityio/bagel
86
개발자 워크스테이션의 보안 관련 메타데이터를 조사하는 명령줄 도구입니다.
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 181
★ 1812026-07-13이슈 24
ferro-labs/ai-gateway
86
다양한 대규모 언어 모델을 통합 관리하고 제어하는 게이트웨이입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 181
★ 1812026-07-15이슈 48
Hainrixz/cyber-neo
86
OWASP 및 CWE 기반의 취약점을 스캔하는 오픈소스 보안 분석 에이전트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 178
★ 1782026-07-18이슈 1
Agent-Field/sec-af
86
에이전트 환경에서 취약점을 탐지하고 공격 가능성을 증명하는 보안 감사 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 175
★ 1752026-07-08이슈 1
konflux-ci/konflux-ci
86
신뢰할 수 있는 소프트웨어 아티팩트 빌드, 테스트 및 배포를 위한 클라우드 네이티브 공장입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 166
★ 1662026-07-18이슈 112
praetorian-inc/trajan
86
파이프라인 설정의 보안 취약점을 탐지하고 공격을 자동화하는 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 165
★ 1652026-07-17이슈 33
🆕CyberSunil/LLMVault
86
AI 보안 취약점 학습을 위한 의도적으로 약한 LLM 실습 플랫폼입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 164
★ 1642026-07-17이슈 2
XSafeAI/XSafeClaw
86
에이전트 안전성을 위한 오픈소스 플랫폼을 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 158
★ 1582026-07-10이슈 1
stacklok/toolhive-studio
86
MCP 서버를 설치하고 관리하며 AI 에이전트와 연결하는 애플리케이션입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 157
★ 1572026-07-17이슈 84
The-17/agentsecrets
86
AI 에이전트가 작동하는 데 필요한 영지식 자격 증명 인프라를 제공합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 157
★ 1572026-06-26이슈 1
🆕samarailly51-pixel/claimpilot-harness
86
보험 청구 관련 AI 에이전트를 실제 사용 전 테스트하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 155
★ 1552026-07-14이슈 3
mahmoudrabie/agentic-ai
86
에이전트 AI 관련 연구 논문, 벤치마크, 프레임워크 등을 분야별로 모아 제공합니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 154
★ 1542026-07-17이슈 0
transilienceai/shasta
86
클라우드 환경의 AI 및 보안을 지원하는 오픈소스 플랫폼입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 144
★ 1442026-07-13이슈 1
gensecaihq/Shai-Hulud-2.0-Detector
86
Shai-Hulud 공급망 공격으로 감염된 npm 패키지를 탐지하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 142
★ 1422026-07-18이슈 3
AthenaCore/AwesomeResponsibleAI
86
책임감 있고 신뢰할 수 있는 AI 관련 자료들을 모아 놓은 목록입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 141
★ 1412026-07-10이슈 23
stephnangue/warden
86
AI 에이전트와 기업 시스템을 연결하는 보안 게이트웨이를 제공합니다.
SecurityGoMPL-2.0
최근 30일 내 활발 · 라이선스 MPL-2.0 · stars 137
★ 1372026-07-17이슈 4
🆕gaasher/Agent-Loop-Skills
86
다양한 작업을 반복하며 개선하는 에이전트 루프 기능을 표준화된 기술로 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 134
★ 1342026-06-30이슈 1
ErdemOzgen/RedAiRange
86
AI 보안 강화를 위한 레드팀 활동 및 취약점 연구 도구 모음입니다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 131
★ 1312026-07-01이슈 0
AndrewAltimit/template-repo
86
에이전트 오케스트레이션과 보안을 위한 템플릿 저장소입니다.
SecurityRustUnlicense
최근 30일 내 활발 · 라이선스 Unlicense · stars 130
★ 1302026-07-05이슈 0
AgentEvalHQ/AgentEval
86
닷넷 환경에서 AI 에이전트의 다양한 성능을 종합적으로 평가하는 도구 모음입니다.
SecurityC#MIT
최근 30일 내 활발 · 라이선스 MIT · stars 129
★ 1292026-07-17이슈 2
mitre/hipcheck
86
소프트웨어 저장소의 공급망 위험을 자동으로 평가하고 점수화합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 126
★ 1262026-07-08이슈 56
🆕s0ld13rr/pentestcode
86
다중 에이전트 기반의 지속적인 침투 테스트를 수행하는 AI 보안 시스템이다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 125
★ 1252026-07-18이슈 0
🆕SantanderAI/autoguardrails
86
LLM 가드레일 연구를 위한 자동 검색 기반의 정렬 연구 틀을 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 125
★ 1252026-07-16이슈 1
jnMetaCode/shellward
85
AI 프로젝트의 데이터 유출 및 보안 취약점을 점검하고 방지하는 게이트웨이입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 123
★ 1232026-06-23이슈 4
sinewaveai/agent-security-scanner-mcp
85
AI 코딩 에이전트를 위한 보안 스캐너 서버로 프롬프트 주입 방지 및 취약점 분석을 수행합니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 117
★ 1172026-07-12이슈 3
seqra/opentaint
85
AI 시대에 맞춘 오픈소스 taint 분석 엔진으로 애플리케이션 보안을 분석합니다.
SecurityKotlinApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 110
★ 1102026-07-18이슈 48
StackOneHQ/defender
85
에이전트의 도구 호출 시 프롬프트 주입 공격을 탐지하고 방어하는 오픈소스입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 109
★ 1092026-07-07이슈 4
OrlojHQ/orloj
85
다중 에이전트 AI 시스템을 위한 오케스트레이션 런타임을 제공한다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 108
★ 1082026-07-17이슈 43
🆕GenseeAI/gensee-crate
85
AI 코딩 에이전트의 런타임 안전성을 실시간으로 검사하고 추적합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 108
★ 1082026-07-18이슈 5
🆕andreapollastri/checkpoint
85
라라벨 애플리케이션의 보안 취약점을 자동화하여 점검하는 도구입니다.
SecurityPHPMIT
최근 30일 내 활발 · 라이선스 MIT · stars 107
★ 1072026-07-13이슈 0
🆕ThreeMoonsLab/agents-shipgate
85
AI 에이전트 기능 변경에 대한 결정론적 병합 게이트 역할을 수행합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 105
★ 1052026-07-18이슈 7
Firma-AI/openfirma
85
AI 에이전트의 모든 외부 호출을 자체 정책으로 제어하는 경계 역할을 합니다.
SecurityRustGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 102
★ 1022026-07-17이슈 14
CodeAlive-AI/ai-driven-development
85
AI 기반 소프트웨어 개발을 위한 방법론과 안전 가이드라인을 제공한다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 101
★ 1012026-07-17이슈 1
mclarty-openclaw/ClawArmor
85
OpenClaw 프레임워크를 위한 하이브리드 구동의 에이전트 런타임 보안 플러그인입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 98
★ 982026-06-29이슈 0
🆕7anX/AgentScan
85
다양한 AI 관련 서버 및 API의 노출된 인터페이스를 한 번에 스캔합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 97
★ 972026-07-04이슈 0
OWASP/www-project-agent-memory-guard
85
AI 에이전트의 메모리 보안 취약점을 다루는 웹 저장소입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 97
★ 972026-07-18이슈 16
🆕WhitzardAgent/AgentGuard
85
AI 에이전트를 위한 제로 트러스트 보안 기반의 접근 통제 프레임워크입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 96
★ 962026-07-16이슈 0
cisco-ai-defense/model-provenance-kit
85
모델의 출처를 평가하고 확인하는 도구 모음입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 95
★ 952026-07-17이슈 3
ExtensionShield/ExtensionShield
85
크롬 확장 프로그램의 보안 및 개인정보 관련 보고서를 생성하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 95
★ 952026-07-18이슈 43
cosai-oasis/secure-ai-tooling
85
AI 시스템의 보안 위험을 식별하고 분석하며 완화하는 프레임워크를 제공한다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 94
★ 942026-07-16이슈 72
yaalalabs/agent-kernel
85
확장 가능한 기업용 AI 에이전트 운영 및 배포를 위한 운영체제입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 94
★ 942026-07-17이슈 108
secnova-ai/ClawdSecbot
85
AI 애플리케이션을 위한 실시간 위협 탐지 및 프롬프트 주입 방지 보안 솔루션입니다.
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 91
★ 912026-07-13이슈 2
🆕Yeti-791/Awesome-Offensive-AI-Agentic-Landscape
85
AI 침투 테스트 및 자율 공격 에이전트 관련 오픈소스 자료를 모아 제공합니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 90
★ 902026-07-17이슈 1
spdx/ntia-conformance-checker
85
SPDX SBOM을 NTIA 등 최소 요소 요구사항에 맞춰 검증합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 89
★ 892026-07-06이슈 20
aisa-group/skill-inject
85
에이전트가 스킬 파일 공격에 얼마나 취약한지 측정하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 88
★ 882026-07-01이슈 1
arthur-ai/arthur-engine
85
AI 및 머신러닝 시스템의 모니터링과 거버넌스를 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 85
★ 852026-07-18이슈 43
garagon/aguara
85
AI 에이전트와 공급망 신뢰를 위한 오픈소스 보안 엔진입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 85
★ 852026-07-13이슈 0
nizos/probity
85
클로드 코드와 코덱스 같은 AI 모델의 개발 과정에 TDD를 적용하고 가드레일을 설정합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 84
★ 842026-07-08이슈 4
🆕projectdiscovery/depx
85
악성 패키지 및 공급망 관련 정보를 분석하는 도구입니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 81
★ 812026-07-16이슈 0
vstorm-co/pydantic-ai-shields
85
Pydantic AI를 위한 비용 추적, 프롬프트 주입 탐지 등 안전장치 기능을 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 81
★ 812026-07-08이슈 2
davidmatousek/tachi
85
클로드 코드의 위협 모델링 및 AI 추론 취약점 탐지 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 80
★ 802026-07-04이슈 16
openziti/llm-gateway
84
다양한 LLM 백엔드를 지원하는 제로 트러스트 방식의 API 게이트웨이입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 78
★ 782026-07-18이슈 9
praetorian-inc/julius
84
IP와 포트를 이용해 다양한 AI 서비스 식별을 수행하는 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 77
★ 772026-07-16이슈 16
RikyZ90/ShibaClaw
84
보안을 중시하는 자체 구축형 AI 에이전트 프레임워크입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 77
★ 772026-07-18이슈 1
buptlg/fireagent
84
지식 기반의 다중 모드 화재 안전 에이전트를 구현합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 77
★ 772026-06-18이슈 0
🆕SantanderAI/mech-gov-framework
84
LLM 의사결정을 위한 모델 독립적인 거버넌스 체계를 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 76
★ 762026-07-15이슈 0
Lab700xOrg/aisbom
84
인공지능 소프트웨어의 구성 요소 목록을 관리하는 보안 도구이다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 73
★ 732026-07-18이슈 4
JKHeadley/instar
84
클로드 코드를 활용하는 에이전트의 지속적인 실행 환경을 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 72
★ 722026-07-18이슈 76
TheArchitectit/agent-guardrails-template
84
AI 에이전트의 안전 규칙과 작업 프레임워크를 제공하는 템플릿 저장소입니다.
SecurityGoBSD-3-Clause
최근 30일 내 활발 · 라이선스 BSD-3-Clause · stars 70
★ 702026-07-13이슈 0
fabraix/playground
84
AI 에이전트 방어력을 적대적 플레이로 테스트하는 실시간 환경입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 69
★ 692026-07-14이슈 2
DataFog/datafog-python
84
AI 에이전트와 LLM 앱을 위한 오프라인 개인정보 보호 방화벽입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 67
★ 672026-07-16이슈 6
api7/aisix
84
다양한 LLM과 AI 에이전트를 위한 단일 호환 API 게이트웨이를 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 66
★ 662026-07-17이슈 77
JGalego/awesome-safety-critical-ai
84
안전이 중요한 인공지능 시스템의 신뢰성 관련 자료들을 모아 놓은 목록입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 64
★ 642026-07-01이슈 0
🆕LuD1161/agentjail
84
코딩 에이전트의 도구 호출을 로컬에서 검사하는 정책 가드레일을 제공한다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 63
★ 632026-07-16이슈 1
🆕hugoii/llm-agent-audit
84
도구 사용 AI 에이전트의 권한 검토를 추적하여 보안을 감사합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 62
★ 622026-07-10이슈 0
hermetoproject/hermeto
84
프로젝트 종속성을 미리 가져와 격리된 컨테이너 빌드를 지원하는 CLI 도구입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 61
★ 612026-07-17이슈 91
johnbillion/rave-wordpress
84
워드프레스 빌드를 재현하고 패키지 변조 여부를 검증합니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 61
★ 612026-07-17이슈 1
Meltedd/VisualSploit
84
Visual Studio 프로젝트 파일에 백도어를 심어 실행하는 코드입니다.
SecurityC#MIT
최근 30일 내 활발 · 라이선스 MIT · stars 61
★ 612026-07-17이슈 2
🆕apisec-inc/AI-Surface
84
애플리케이션 코드의 AI 공격 표면을 PR 시점에 찾아 관리합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 60
★ 602026-07-18이슈 1
enguard-ai/awesome-ai-guardrails
84
AI 가드레일에 관한 자료들을 모아 놓은 목록입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 60
★ 602026-06-22이슈 4
🆕abluva-research/mcp-trust-plane
84
모델 컨텍스트 프로토콜을 위한 구성 가능한 데이터 보안 계층을 제공합니다.
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 59
★ 592026-06-19이슈 0
ArmorerLabs/Armorer
84
AI 에이전트 실행을 위한 격리된 제어 환경과 보안 기능을 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 58
★ 582026-07-18이슈 3
QWED-AI/qwed-verification
84
AI 시스템의 출력을 수학적 방법으로 검증하여 신뢰 경계를 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 57
★ 572026-07-15이슈 20
rfunix/tengu
84
AI 기반의 침투 테스트를 위한 MCP 서버 기능을 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 56
★ 562026-06-22이슈 30
🆕bkuan001/halo-record
84
AI 에이전트의 위변조 방지 실행 기록을 제공하는 저장소입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 56
★ 562026-07-15이슈 0
🆕nolabs-ai/runseal
84
깃허브 액션 실행을 위한 격리된 환경을 제공하여 공급망 공격을 차단합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 56
★ 562026-07-07이슈 1
techlab-innov/llmtrace
84
오픈AI 호환 API의 프롬프트 주입 탐지 및 비용 관리를 위한 보안 프록시입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 54
★ 542026-07-16이슈 109
🆕promptphp/intercept
84
라라벨 에이전트를 위한 모듈식 미들웨어 컬렉션을 제공합니다.
SecurityPHPMIT
최근 30일 내 활발 · 라이선스 MIT · stars 54
★ 542026-07-17이슈 2
Mindburn-Labs/helm-ai-kernel
84
AI 에이전트 실행을 위한 안전한 방화벽 기능을 제공합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 53
★ 532026-07-18이슈 44
carabiner-dev/ampel
84
다양한 목적의 정책 엔진 기능을 제공하는 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 53
★ 532026-07-17이슈 3
panguard-ai/panguard-ai
84
AI 에이전트의 보안을 위한 오픈소스 플랫폼으로 스킬 감사 및 실시간 모니터링 기능을 제공한다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 52
★ 522026-07-15이슈 2
🆕open-agent-ai-security/praxen
84
AI 에이전트의 실제 행동과 선언된 정책을 비교하여 불일치를 검증합니다.
SecurityHTMLApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 52
★ 522026-07-18이슈 27
getclyro/clyro
84
AI 에이전트의 무한 루프나 정책 위반을 실시간으로 감지하는 거버넌스 플랫폼이다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 52
★ 522026-07-17이슈 2
ADA-research/VERONA
84
강건성 실험 설정 및 강건성 분포 계산을 위한 경량 파이썬 패키지입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 51
★ 512026-07-15이슈 14
killertcell428/aigis
84
AI 에이전트를 위한 결정론적 파이썬 방화벽으로 보안 위협을 차단합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 51
★ 512026-07-18이슈 17
🆕illiahaidar/mcptrustchecker
84
모델 컨텍스트 프로토콜 서버의 보안 취약점을 오프라인으로 점검하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 50
★ 502026-07-13이슈 0
kpcyrd/repro-env
84
재현 가능한 빌드 환경을 위한 의존성 잠금 파일을 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 50
★ 502026-07-13이슈 3
NVIDIA-NeMo/Guardrails
74
LLM 기반 대화 시스템에 프로그래밍 가능한 안전장치를 쉽게 추가하는 도구입니다.
SecurityPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 6728
★ 6,7282026-07-17이슈 179
Nasiko-Labs/nasiko
73
AI 에이전트 개발을 위한 제어 평면 기능을 제공하는 도구입니다.
SecurityPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 3763
★ 3,7632026-07-10이슈 87
🆕elementalsouls/Claude-BugHunter
72
클로드 기반의 버그 탐지 및 외부 레드팀 작업을 위한 기술 모음입니다.
SecurityPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 2987
★ 2,9872026-07-01이슈 3
상위 200개 표시 · 전체 253개는 메인에서 검색·정렬