📡 Security 지금 흐름
AI 모델 자체의 취약점과 에이전트의 보안 리스크를 탐지하고 검증하는 도구들이 주목받고 있다. 또한, 시스템 프롬프트 유출 방지나 민감 정보 비식별화 등 데이터 보호와 관련된 보안 영역의 중요성이 커지고 있다. 전반적으로 AI 기반의 공격 및 취약점 분석, 그리고 이를 방어하는 감사 및 검증 메커니즘 개발에 초점이 맞춰지고 있다.
ai-securityai-agentssecuritymcpllm-securityai-safety
🚀usestrix/strix
99
앱의 취약점을 찾아 수정하는 오픈소스 AI 침투 테스트 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 71216
★ 71,2162026-10-23이슈 496
🚀KeygraphHQ/shannon
98
웹 애플리케이션과 API의 취약점을 분석하고 실제 공격을 수행하는 AI 보안 도구입니다.
SecurityTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 49217
★ 49,2172026-10-15이슈 26
🚀ifixai-ai/iFixAi
98
AI 에이전트가 의도대로 작동하는지 독립적으로 감사하고 검증합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 33236
★ 33,2362026-10-22이슈 3
The-Art-of-Hacking/h4cker
97
윤리적 해킹, 취약점 연구 등 다양한 보안 관련 자료를 모아놓은 저장소입니다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 29881
★ 29,8812026-10-23이슈 0
promptfoo/promptfoo
97
프롬프트와 에이전트의 성능을 테스트하고 취약점을 검사하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 26315
★ 26,3152026-10-23이슈 838
NVIDIA/SkillSpector
97
AI 에이전트 스킬의 취약점과 보안 리스크를 탐지하는 보안 스캐너입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 21012
★ 21,0122026-10-22이슈 166
microsoft/mcp-for-beginners
96
다양한 언어로 모델 컨텍스트 프로토콜의 기본 개념과 실습을 제공합니다.
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 17491
★ 17,4912026-10-22이슈 28
data-privacy-stack/presidio
95
텍스트, 이미지 등 다양한 데이터에서 민감 정보를 탐지하고 비식별화하는 오픈소스 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 11467
★ 11,4672026-10-19이슈 216
🚀openai/codex-security
95
코덱스 보안 도구로 취약점을 찾아 검증하고 수정하는 CLI 및 SDK를 제공한다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 11179
★ 11,1792026-10-23이슈 190
NVIDIA/garak
95
LLM의 취약점을 스캔하고 평가하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 9664
★ 9,6642026-10-21이슈 509
BoundaryML/baml
95
에이전트를 위한 프로그래밍 언어를 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 9430
★ 9,4302026-10-23이슈 401
maximhq/bifrost
95
다양한 모델을 지원하는 고성능 엔터프라이즈 AI 게이트웨이입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 9029
★ 9,0292026-10-23이슈 1,339
lintsinghua/DeepAudit
94
AI 기반의 코드 취약점 탐지 및 자동화된 보안 감사 시스템을 제공합니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 7200
★ 7,2002026-10-16이슈 96
Tencent/AI-Infra-Guard
94
AI 생태계를 보호하는 전방위 AI 레드팀 테스트 플랫폼입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 7015
★ 7,0152026-10-22이슈 22
microsoft/agent-governance-toolkit
94
자율 AI 에이전트의 정책 적용, 신원 검증, 실행 격리 등을 위한 도구 모음입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 6459
★ 6,4592026-10-23이슈 108
Trusted-AI/adversarial-robustness-toolbox
94
Adversarial Robustness Toolbox (ART) - Python Library for Machine Learning Security - Evasion, Poisoning, Extraction, Inference - Red and Blue Teams
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 6283
★ 6,2832026-10-08이슈 22
vllm-project/semantic-router
94
다양한 대규모 언어 모델을 효율적으로 라우팅하는 지능형 시스템입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 6247
★ 6,2472026-10-23이슈 727
FlorianBruniaux/claude-code-ultimate-guide
94
클로드 코딩에 대한 에이전트 워크플로우와 실용적인 템플릿을 다루는 종합 가이드입니다.
SecurityPythonCC-BY-SA-4.0
최근 30일 내 활발 · 라이선스 CC-BY-SA-4.0 · stars 6223
★ 6,2232026-10-22이슈 11
Giskard-AI/giskard-oss
94
LLM 에이전트의 평가 및 테스트를 위한 오픈소스 라이브러리입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5918
★ 5,9182026-10-20이슈 79
awarexone/Agentic-Bug-Hunter
94
AI 기반의 버그 바운티 헌팅 도구 모음입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 5397
★ 5,3972026-10-09이슈 12
elementalsouls/Claude-BugHunter
94
클로드 기반의 버그 찾기 및 외부 레드팀 작업을 위한 기술 모음입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 5242
★ 5,2422026-10-22이슈 2
perplexityai/bumblebee
94
로컬 패키지, 확장, 개발자 도구 메타데이터를 스캔하여 공급망 취약점을 확인합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5089
★ 5,0892026-10-11이슈 42
microsoft/PyRIT
93
생성형 AI 시스템의 위험을 사전에 식별하도록 돕는 오픈소스 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4673
★ 4,6732026-10-23이슈 138
makcedward/nlpaug
93
Data augmentation for NLP
SecurityJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4664
★ 4,6642026-10-17이슈 11
nolabs-ai/nono
93
다양한 AI 에이전트를 빠르고 간편하게 테스트할 수 있는 환경을 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 4640
★ 4,6402026-10-22이슈 265
yvgude/lean-ctx
93
AI 에이전트가 접근하고 기억하며 저장하는 정보를 제어하는 컨텍스트 계층입니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3899
★ 3,8992026-10-22이슈 15
CyberStrikeus/CyberStrike
93
AI를 활용하여 다양한 취약점을 공격하고 테스트하는 보안 도구 모음입니다.
SecurityTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 3228
★ 3,2282026-10-20이슈 27
GH05TCREW/pentestagent
93
블랙박스 보안 테스트를 위한 AI 에이전트 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 3210
★ 3,2102026-10-12이슈 33
samugit83/redamon
93
공격 표면을 그래프로 그려 자율적으로 취약점을 탐지하고 수정하는 AI 보안 테스트 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 3192
★ 3,1922026-10-22이슈 15
🆕lennney/stop-that-shit
92
작은 작업에 불필요한 모듈이나 의존성 추가를 방지합니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 3016
★ 3,0162026-10-22이슈 7
beenuar/AiSOC
92
AI 기반 보안 관제 센터 기능을 제공하며 위협 대응 및 조사를 돕는다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2942
★ 2,9422026-10-22이슈 5
sahibzada-allahyar/Formal-Verification-RSI
92
Formal verification for AI: a Lean 4 + Dafny proof checker that catches fake AI proofs (reward hacking), and verified recursive self-improvement (RSI) for coding agents. AI for math, physics and software engineering.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2852
★ 2,8522026-10-22이슈 149
skills/secure-code-game
92
재미있는 코딩 게임으로 안전한 코딩 습관을 배울 수 있는 환경을 제공한다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2848
★ 2,8482026-10-21이슈 13
sheeki03/tirith
92
개발자와 AI 에이전트를 위한 터미널 보안 기능을 제공합니다.
SecurityRustAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 2762
★ 2,7622026-10-22이슈 29
0xSteph/pentest-ai-agents
92
Turn Claude Code into your offensive security research assistant. Specialized AI subagents for authorized penetration testing plan engagements, analyze recon, research exploits, build detections, audit STIGs, and write reports.
SecurityShellMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2364
★ 2,3642026-10-06이슈 2
Kritt-ai/open-kritt
92
에이전트를 활용하여 코드의 보안 취약점을 찾아 검증하는 오픈소스 도구입니다.
SecurityJavaScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 2326
★ 2,3262026-10-22이슈 35
stacklok/toolhive
92
모델 컨텍스트 프로토콜 서버를 실행하고 관리하는 기업용 플랫폼입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2304
★ 2,3042026-10-23이슈 400
beelzebub-labs/beelzebub
92
AI를 활용하여 시스템 가상화를 위한 안전한 로우코드 속임수 실행 환경을 제공합니다.
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 2206
★ 2,2062026-10-23이슈 12
future-agi/future-agi
92
LLM 및 AI 에이전트 애플리케이션을 평가하고 개선하는 통합 플랫폼입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2194
★ 2,1942026-10-23이슈 1,070
uber/ADR
92
기업용 AI 에이전트를 관측성, 보안 벤치마킹 및 위협 탐지로 보호합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2074
★ 2,0742026-10-23이슈 50
msoedov/agentic_security
92
에이전트 기반 LLM 취약점 스캐닝 및 AI 레드팀 테스트 키트입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2025
★ 2,0252026-10-19이슈 10
lirantal/npq
91
safely install npm packages by auditing them pre-install stage
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1795
★ 1,7952026-10-07이슈 6
0xSteph/pentest-ai
91
OWASP Top 10 취약점을 위한 다양한 도구와 에이전트를 갖춘 보안 테스트 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1768
★ 1,7682026-10-09이슈 3
kenryu42/cc-safety-net
91
AI 코딩 에이전트의 위험한 명령어 실행을 막는 CLI 보안 장치입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1753
★ 1,7532026-10-23이슈 2
🚀🆕trhhubsd/ARTEX
91
ARTEX · AI autonomous penetration testing system (multi-agent LLM, Go + Next.js) · AI 自主渗透测试系统 · 百度 agent+ 攻防挑战赛冠军
SecurityGoAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 1717
★ 1,7172026-10-19이슈 1
🆕archestra-ai/OpenAPPA
91
에이전트가 작동하는 것을 막지 않는 결정론적 안전장치를 제공합니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1600
★ 1,6002026-10-22이슈 24
guacsec/guac
91
소프트웨어 보안 메타데이터를 고정밀 그래프 데이터베이스로 집계합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1559
★ 1,5592026-10-20이슈 75
akto-api-security/akto
91
AI 에이전트와 LLM 등 조직 내 AI를 보호하는 보안 플랫폼입니다.
SecurityJavaMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1531
★ 1,5312026-10-22이슈 356
JoasASantos/NeuroSploit
91
AI 기반의 침투 테스트를 자동화하고 강화하는 보안 운영 프레임워크입니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1477
★ 1,4772026-10-19이슈 2
jiep/offensive-ai-compilation
91
공격적 인공지능 관련 유용한 자료들을 모아 놓은 목록입니다.
SecurityHTMLCC-BY-SA-4.0
최근 30일 내 활발 · 라이선스 CC-BY-SA-4.0 · stars 1442
★ 1,4422026-10-03이슈 5
owasp-dep-scan/dep-scan
91
프로젝트 의존성 기반의 보안 및 위험 감사 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1301
★ 1,3012026-10-14이슈 82
step-security/harden-runner
91
깃허브 액션 러너의 네트워크 및 프로세스 활동을 모니터링하는 보안 에이전트입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1289
★ 1,2892026-10-19이슈 54
pashov/skills
91
AI 에이전트 및 보안 관련 다양한 기술 스킬을 모아 놓은 저장소입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1284
★ 1,2842026-10-21이슈 9
mrwadams/attackgen
90
LLM과 MITRE ATT&CK를 활용하여 맞춤형 보안 사고 대응 시나리오를 생성하는 도구입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 1255
★ 1,2552026-10-19이슈 11
xalgorix/xalgorix
90
자율 AI 에이전트를 이용해 실시간으로 취약점을 탐지하고 공격을 자동화합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1224
★ 1,2242026-10-22이슈 0
cvs-health/uqlm
90
언어 모델의 환각을 불확실성 정량화 기반으로 탐지하는 파이썬 패키지입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1212
★ 1,2122026-10-13이슈 26
larlarua/AutoCVE
90
소스 코드 감사를 위한 에이전트 기반 자동 CVE 발견 플랫폼입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 1191
★ 1,1912026-10-01이슈 14
Anil-matcha/awesome-gpt-6-astra
90
GPT-6 Astra의 사용 사례, 프롬프트, 통합 및 안전 정보를 모아 놓은 목록입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1150
★ 1,1502026-10-03이슈 2
mrwadams/stride-gpt
90
GPT 모델을 활용하여 STRIDE 방법론 기반의 위협 모델링을 수행하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1145
★ 1,1452026-10-22이슈 15
ASCIT31/Dark-Moon
90
웹, API, 클라우드 등 다양한 영역의 AI 보안 취약점을 테스트하는 자율 AI 플랫폼이다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 1133
★ 1,1332026-10-22이슈 8
safedep/vet
90
오픈소스 패키지의 악성 코드를 보호하는 보안 분석 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1116
★ 1,1162026-10-22이슈 110
🆕ZeroDayEvil/ai-security-tool
90
AI 기반의 보안 터미널 및 취약점 스캐너를 제공하는 오픈소스 도구입니다.
SecurityHTMLMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1082
★ 1,0822026-10-21이슈 0
cuga-project/cuga-agent
90
웹과 API에서 복잡한 작업 실행을 지원하는 범용 에이전트 프레임워크입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1048
★ 1,0482026-10-22이슈 280
reconmap/reconmap
90
정보보안팀을 위한 정찰부터 보고까지 전 과정 관리 보안 운영 플랫폼입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1000
★ 1,0002026-10-20이슈 10
hashgraph-online/hol-guard
90
AI 에이전트의 위험한 도구 사용과 보안 위협을 실시간으로 차단하는 오픈소스 백신입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 971
★ 9712026-10-23이슈 101
pipelab-org/pipelock
90
Open-source AI agent firewall for MCP security and agent egress. Scans mediated HTTP, MCP, A2A, and WebSocket traffic for exfiltration, SSRF, and prompt injection, and emits mediator-signed action receipts: verifiable audit evidence from outside the agent.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 958
★ 9582026-10-23이슈 7
🆕Zyrexnn/Cybermes
90
자율적인 공격 보안 및 취약점 점검을 위한 에이전트 프레임워크입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 957
★ 9572026-10-21이슈 11
AgentSafeLabs/safelabs-eval
90
AI 에이전트의 보안 취약점을 테스트하고 평가하는 프레임워크입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 907
★ 9072026-10-19이슈 0
toby-bridges/api-relay-audit
90
AI API 중계 및 LLM 프록시의 로컬 보안 취약점을 감사합니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 889
★ 8892026-10-22이슈 27
s0ld13rr/pentestcode
90
다중 에이전트 기반의 지속적 상호작용을 갖춘 AI 침투 테스트 시스템이다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 879
★ 8792026-10-02이슈 6
asamassekou10/ship-safe
90
에이전트 시대에 맞춰 CI/CD 설정 오류와 보안 위험을 탐지하는 CLI 스캐너입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 861
★ 8612026-10-17이슈 19
🆕lobehub/awesome-rsi
90
재귀적 자기 개선(RSI) 관련 모델, 에이전트, 안전 연구 자료를 모아놓은 목록입니다.
SecurityCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 852
★ 8522026-10-15이슈 23
duriantaco/skylos
90
병합 전 코드에서 사장된 코드, 보안 버그 등을 찾아내는 로컬 기반 PR 스캐너입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 848
★ 8482026-10-23이슈 0
hoophq/hoop
90
AI 에이전트의 민감 데이터 마스킹 및 위험 명령어 차단 기능을 제공합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 834
★ 8342026-10-23이슈 93
h5i-dev/h5i
90
AI 코딩 에이전트를 위한 감사 가능한 작업 공간을 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 805
★ 8052026-10-23이슈 14
BlessedRebuS/Krawl
89
가짜 웹 앱을 만들어 크롤러를 속이고 방어하는 경량의 보안 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 787
★ 7872026-10-17이슈 7
🆕superwesleyhys-ux/factcircuit
89
주장과 증거를 검증하고 출처를 추적하는 감사 가능한 시스템입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 783
★ 7832026-10-09이슈 6
coipond/coi
89
AI 에이전트에게 격리된 환경을 제공하여 안전하게 코딩 작업을 수행하게 합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 758
★ 7582026-10-22이슈 35
arcjet/arcjet-js
89
AI 보안 기능을 제공하여 봇이나 자동화된 공격으로부터 AI 사용을 보호하는 라이브러리입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 693
★ 6932026-10-21이슈 7
🆕z91772524-ai/pojia-next
89
다양한 AI 클라이언트의 프롬프트와 페르소나를 한 번에 교체하는 스크립트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 685
★ 6852026-10-21이슈 13
framerslab/agentos
89
다양한 LLM을 활용하는 지능형 AI 에이전트 개발 프레임워크입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 682
★ 6822026-10-23이슈 24
samvallad33/vestige
89
AI 에이전트에게 과거의 변화를 추적하여 실패 원인을 찾는 메모리 기능을 제공합니다.
SecurityRustAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 655
★ 6552026-10-22이슈 44
agentic-os-org/ANOLISA
89
에이전트 운영체제로서 런타임, 보안, 관측성 및 토큰 압축 기능을 제공한다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 634
★ 6342026-10-23이슈 1,514
chrisliu298/awesome-llm-unlearning
89
A resource repository for machine unlearning in large language models
SecurityApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 633
★ 6332026-10-06이슈 1
🆕graygnatconsole/mcp-audit-tool
89
🛡️ Security audit CLI for Model Context Protocol (MCP) servers — scan AI agent configs for tool poisoning, rug pulls, hardcoded secrets, command injection & supply-chain risks. Pure Python, SARIF + CI ready.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 622
★ 6222026-09-26이슈 1
chainloop-dev/chainloop
89
소프트웨어 공급망 증명 및 정책 엔진을 위한 증거 저장소입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 604
★ 6042026-10-23이슈 30
aisa-group/PostTrainBench
89
CLI 에이전트의 모델 미세 조정 성능을 측정하는 벤치마크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 604
★ 6042026-10-02이슈 24
paladini/harness-score
89
AI 코딩 에이전트의 신뢰성을 측정하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 602
★ 6022026-10-20이슈 10
emiliaprotocol/emilia-protocol
89
기계 행동에 대한 결과 방화벽으로 정확한 권한을 검증하는 오픈 프로토콜입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 599
★ 5992026-10-19이슈 19
secureagentics/Adrian
89
Open-source runtime AI agent security tool - monitors and controls AI agents, catching malicious tool use, prompt injection, and policy drift in real time, before the agent acts.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 587
★ 5872026-10-21이슈 9
🆕cobanov/awesome-jev
89
Jev 모델을 사용해 구축된 타입이 지정된 의사결정 프로젝트 목록을 모아 놓은 자료입니다.
SecurityCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 575
★ 5752026-10-20이슈 2
safedep/pmg
89
프록시와 샌드박스를 이용해 악성 오픈소스 패키지로부터 개발자를 보호합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 553
★ 5532026-10-22이슈 46
globalbao/awesome-azure-policy
89
애저 정책 학습에 유용한 자료들을 모아놓은 목록입니다.
SecurityCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 547
★ 5472026-10-07이슈 0
🆕qybaihe/mu
89
mu (μ): a coding agent that thinks before it acts. A small, fast judge makes the routine calls, the big model does the work. Built on pi.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 536
★ 5362026-10-23이슈 2
boostsecurityio/poutine
89
poutine, a supply chain vulnerability scanner for build pipelines
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 529
★ 5292026-10-21이슈 20
Justin0504/Aegis
89
Runtime policy enforcement for AI agents. Cryptographic audit trail, human-in-the-loop approvals, kill switch. Zero code changes.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 523
★ 5232026-10-09이슈 4
bytedance/vArmor
89
클라우드 환경에서 시스템 호출부터 애플리케이션 프로토콜까지 접근을 제어하는 컨테이너 강화 시스템이다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 511
★ 5112026-10-22이슈 4
ZaxbyHub/opencode-swarm
89
아키텍처 중심의 에이전트 군집 플러그인으로 코드 생성 및 검토를 지원합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 510
★ 5102026-10-23이슈 128
liu00222/Open-Prompt-Injection
89
LLM의 프롬프트 주입 공격과 방어에 대한 벤치마크를 제공한다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 508
★ 5082026-09-27이슈 2
TheLunarCompany/lunar
89
에이전트 네이티브 MCP 게이트웨이를 통한 거버넌스 및 보안 기능을 제공한다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 505
★ 5052026-10-22이슈 22
OWASP/DockSec
88
AI 기반 도커 보안 스캐너로 취약점을 쉬운 영어로 설명합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 498
★ 4982026-10-12이슈 21
CoWork-OS/CoWork-OS
88
코딩, 지식 작업 등을 위한 로컬 기반의 개인 에이전트 운영체제입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 496
★ 4962026-10-22이슈 35
Trustworthy-AI-Group/TransferAttack
88
TransferAttack is a pytorch framework to boost the adversarial transferability for image classification.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 493
★ 4932026-10-07이슈 9
RiccardoBiosas/awesome-MLSecOps
88
머신러닝 및 AI 시스템 보안을 위한 도구와 자료를 모아 놓은 목록입니다.
SecurityAstroMIT
최근 30일 내 활발 · 라이선스 MIT · stars 480
★ 4802026-10-19이슈 24
zhuyansen/agent-skills-hub
88
오픈소스 에이전트 스킬과 도구를 검색하고 비교하는 허브입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 463
★ 4632026-10-23이슈 20
owasp-dep-scan/blint
88
실행 파일의 보안 속성과 기능을 검사하고 소프트웨어 구성 명세서를 생성하는 바이너리 린터입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 460
★ 4602026-10-14이슈 36
🆕strands-agents/box
88
Run AI agents in a sandbox that restricts what they can execute, read, write, and reach on the network. Box combines OS isolation with default-deny Dogwood policies and credential injection that keeps secrets outside the agent. Written in Rust. Supports macOS on Apple silicon, with Linux support planned.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 460
★ 4602026-10-22이슈 63
🆕FuRongJun-1999/dsh-memory
88
AGI 구조 탐색을 위한 메타인지, 지속 학습, 세계 모델 등을 포함한 백박스 프레임워크입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 455
★ 4552026-10-23이슈 5
SponsioLabs/Sponsio
88
확률적 AI 에이전트를 위한 결정론적 안전 솔루션을 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 454
★ 4542026-10-16이슈 10
adithyan-ak/AgentHound
88
AI 에이전트 인프라의 공격 보안을 위한 프레임워크를 제공한다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 452
★ 4522026-10-21이슈 22
lissy93/bug-bounties
88
활성 버그 바운티 프로그램과 취약점 공개 프로그램을 모아놓은 디렉토리입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 450
★ 4502026-10-22이슈 0
agentgg-dev/agentgg
88
오픈소스 에이전트 기반의 정적 분석 보안 도구입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 441
★ 4412026-10-20이슈 0
dataiku/kiji-proxy
88
오픈AI 요청에 대한 개인정보 보호 프록시 기능을 제공합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 438
★ 4382026-10-22이슈 34
kpcyrd/rebuilderd
88
바이너리 패키지를 독립적으로 검증하여 재현 가능한 빌드를 지원합니다.
SecurityRustGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 431
★ 4312026-10-18이슈 59
PrismorSec/prismor
88
AI 에이전트의 위험한 도구 호출을 실행 전에 탐지하는 런타임 방화벽입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 424
★ 4242026-10-23이슈 65
Agent-Threat-Rule/agent-threat-rules
88
AI 에이전트 보안 위협에 대한 오픈 탐지 규칙 표준을 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 422
★ 4222026-10-22이슈 46
Keesan12/martin-loop
88
AI 코딩 에이전트의 안전한 자율 확장을 위한 관리 및 검증 기능을 제공한다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 398
★ 3982026-10-22이슈 2
agamm/claude-code-owasp
88
OWASP 보안 모범 사례를 적용한 클로드 코드 보안 학습 자료를 제공합니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 394
★ 3942026-09-25이슈 1
mcpware/cross-code-organizer
88
클로드 코드 관련 다양한 구성 요소를 관리하는 대시보드입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 383
★ 3832026-10-20이슈 2
letsseal/letsseal
88
파일의 진위성과 변조 여부를 증명하는 개방형 표준을 제공합니다.
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 377
★ 3772026-10-19이슈 27
rust-stdx/stdx
88
러스트의 확장 표준 라이브러리로 간편함과 성능을 제공한다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 361
★ 3612026-10-22이슈 1
schmitech/orbit
88
개인 환경에서 사용 가능한 OpenAI 호환 AI 게이트웨이입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 355
★ 3552026-10-22이슈 0
Floe-Labs/floe-guard
88
AI 음성 에이전트의 통화별 비용을 측정하고 예산을 제한하는 도구입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 347
★ 3472026-10-21이슈 14
getnora-io/nora
88
다양한 형식의 아티팩트를 관리하는 가볍고 독립적인 레지스트리입니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 343
★ 3432026-10-20이슈 37
CyberSunil/LLMVault
88
AI 보안 취약점을 학습하고 테스트할 수 있는 플랫폼입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 342
★ 3422026-10-20이슈 20
🆕JeffKeeping/dsh-purge-plus
88
dsh-purge 的非官方分支（fork）：适配 DeepSeek Harness 0.2.1-rc.2、破甲内核 v3、设置页 UI 重做 / unofficial fork of YuJunZhiXue/dsh-purge (MIT)
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 341
★ 3412026-10-22이슈 3
agentcontrol/agent-control
88
대규모 환경에서 에이전트의 실행 시간 동작을 제어하는 중앙 집중식 평면입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 330
★ 3302026-10-22이슈 48
Brain0-ai/brain0
88
The black box for AI-written code. Passive decision graph linking every commit to the agent prompts behind it: drift detection, DLP audit of what agents read, evidence-driven risk, MCP memory for coding agents, signed provenance attestations. One command, offline by default.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 317
★ 3172026-10-22이슈 0
GreyhavenHQ/greywall
87
Container-free, deny-by-default sandbox for AI coding agents. Kernel-enforced filesystem, network, and syscall isolation for Linux and macOS
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 311
★ 3112026-10-17이슈 31
praetorian-inc/augustus
87
프롬프트 주입 및 적대적 공격을 탐지하는 LLM 보안 테스트 프레임워크입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 310
★ 3102026-10-20이슈 36
interlynk-io/sbomqs
87
SBOM의 품질과 규정 준수를 검사하는 포괄적인 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 309
★ 3092026-10-22이슈 26
backbay-labs/clawdstrike
87
개발자 워크스테이션과 에이전트 군집을 위한 AI 기반 보안 솔루션을 제공합니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 299
★ 2992026-10-22이슈 101
NodeSecure/js-x-ray
87
자바스크립트와 노드 환경의 보안 취약점을 정적으로 분석하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 288
★ 2882026-10-19이슈 4
🆕heaven999b/hello-agent-system
87
👋 Hello Agent System — learn enterprise AI agent system design by building every production layer from scratch. 17 bilingual lessons (EN/中文) with tested exercises: tools, architectures, reliability, security, evals, distributed execution, cost, RAG, release ops. 企业级 Agent 系统设计训练营
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 285
★ 2852026-09-28이슈 0
🆕dodoguardai/dodoguard
87
다양한 AI 에이전트 플랫폼 전반의 보안을 강화하는 에이전트 보안 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 277
★ 2772026-10-08이슈 8
SecurityClaw/SecurityClaw
87
오픈소스 데이터를 모니터링하고 LLM으로 이상 징후를 검증하는 자율 보안 에이전트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 277
★ 2772026-10-19이슈 11
DobermanCore/Doberman-Core
87
실행 시 입력, 출력, 도구 호출을 감시하여 안전하지 않은 행동을 차단하는 AI 보안 장치입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 275
★ 2752026-10-21이슈 67
ferro-labs/ai-gateway
87
다양한 대규모 언어 모델을 통합 관리하고 제어하는 게이트웨이입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 272
★ 2722026-10-19이슈 67
gaur-avvv/XGPT-WormGPT
87
[New Update](Added Agentic-Mode, Dark-GODMode)The Real BlackHat GPT - ai can do your illegal stuffs without saying anything. Use At Your Own Risk!
SecurityShellGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 268
★ 2682026-10-19이슈 2
yzhao062/anywhere-agents
87
다양한 AI 에이전트들을 하나의 설정으로 관리하고 안전하게 구동하는 도구입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 259
★ 2592026-10-23이슈 20
cicd-sensor/cicd-sensor
87
GitHub 및 GitLab CI/CD 환경을 위한 오픈소스 eBPF 런타임 보안 센서입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 258
★ 2582026-10-21이슈 14
AI45Lab/OpenART
87
OpenART is an open-source framework designed to evaluate the safety and robustness of autonomous AI agents in dynamic, long-horizon, and stateful environments. It stress-tests agent runtimes against multi-step state poisoning, privilege escalation, and tool-use vulnerabilities across 10,000+ benchmark scenarios.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 251
★ 2512026-10-15이슈 0
guardana/guardana
87
AI 보안 검증을 위한 규칙 엔진으로 모델과 엔드포인트를 점검합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 251
★ 2512026-10-21이슈 31
praetorian-inc/julius
87
IP와 포트로 다양한 AI 서비스에 대한 식별 정보를 제공합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 248
★ 2482026-10-03이슈 18
github/gh-actions-lock
87
워크플로우에서 사용하는 모든 액션을 정확한 커밋으로 고정하는 락파일을 생성하고 검증합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 247
★ 2472026-10-22이슈 20
tang-vu/ContribAI
87
증거 기반의 오픈소스 기여 제안을 관리하는 에이전트입니다.
SecurityRustAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 246
★ 2462026-10-19이슈 4
git-pkgs/proxy
87
패키지 레지스트리를 위한 가벼운 캐싱 프록시 역할을 합니다.
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 245
★ 2452026-10-22이슈 61
ckotzbauer/sbom-operator
87
쿠버네티스 클러스터의 모든 이미지를 여러 대상으로 목록화합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 238
★ 2382026-10-22이슈 7
Exploit-Garbage/0day-Rubbish
87
AI 시대에 취약점을 대량 생산하고 공개하여 보안 표준을 높이는 프로젝트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 235
★ 2352026-10-20이슈 0
🆕PerryLink/dsh-auto-review
87
딥시크 승인 요청에 대한 읽기 전용 AI 자동 검토 기능을 제공합니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 234
★ 2342026-10-22이슈 2
nizos/probity
87
Claude 코드와 코덱스 같은 AI 코딩 도구에 대한 TDD 강제 및 안전장치를 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 233
★ 2332026-10-12이슈 32
🆕zero-lab-ai/skills
87
Portable, evidence-bound security skills for authorized defensive assessment, red teaming, penetration testing, detection engineering, and engagement operations.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 229
★ 2292026-10-15이슈 0
0xNyk/awesome-agent-cortex
87
AI 에이전트 관련 프레임워크와 프로토콜을 모아놓은 목록입니다.
SecurityJavaScriptCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 228
★ 2282026-10-15이슈 68
gominimal/minimal
87
신뢰할 수 있는 소프트웨어 개발을 위한 격리된 환경과 보안 패키지 관리자를 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 222
★ 2222026-10-23이슈 204
node9-ai/node9-proxy
87
자율 AI 에이전트를 위한 결정론적 거버넌스 및 감사 로그를 제공하는 보안 계층입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 219
★ 2192026-10-20이슈 0
konflux-ci/konflux-ci
87
클라우드 환경에서 신뢰할 수 있는 소프트웨어 아티팩트를 빌드하고 테스트하며 배포하는 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 215
★ 2152026-10-23이슈 167
humanbound/humanbound
87
AI 에이전트를 위한 오픈소스 적대적 테스트 엔진 및 도구 모음입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 212
★ 2122026-10-22이슈 3
sjkim1127/Reversecore_MCP
87
AI 에이전트가 리버스 엔지니어링 및 보안 분석을 수행하는 서버입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 211
★ 2112026-10-22이슈 8
oracle/macaron
87
다양한 빌드 시스템과 CI/CD를 지원하는 공급망 보안 분석 프레임워크입니다.
SecurityPythonUPL-1.0
최근 30일 내 활발 · 라이선스 UPL-1.0 · stars 210
★ 2102026-10-16이슈 152
liuyanghejerry/Clausura
87
지정된 파이프라인 게이팅을 위한 CI 네이티브 에이전트 CLI 도구입니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 204
★ 2042026-09-29이슈 1
boostsecurityio/bagel
87
bagel, a CLI that inventories security-relevant metadata on developer workstations
SecurityGoGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 204
★ 2042026-10-05이슈 21
api7/aisix
87
다양한 LLM과 AI 에이전트를 위한 단일 API 게이트웨이를 제공합니다.
SecurityRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 204
★ 2042026-10-22이슈 61
projectdiscovery/depx
86
Malicious package & supply-chain intelligence
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 198
★ 1982026-10-21이슈 6
Clivern/Sloth
86
🦥 One gateway for your AI agents, APIs and MCP servers.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 197
★ 1972026-10-23이슈 2
praetorian-inc/trajan
86
파이프라인 설정의 보안 취약점 탐지 및 공격 자동화 도구입니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 195
★ 1952026-10-18이슈 4
step-security/dev-machine-guard
86
개발 환경의 AI 에이전트와 의심스러운 패키지를 빠르게 검사합니다.
SecurityGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 193
★ 1932026-10-22이슈 34
yaalalabs/agent-kernel
86
확장 가능한 기업용 AI 에이전트 운영 및 배포를 위한 시스템을 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 192
★ 1922026-10-23이슈 103
The-17/agentsecrets
86
AI 에이전트가 작동하는 데 필요한 영지식 자격 증명 인프라를 제공합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 190
★ 1902026-10-21이슈 1
OWASP/www-project-agent-memory-guard
86
AI 에이전트의 메모리 보안 취약점을 다루는 웹 저장소입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 188
★ 1882026-10-23이슈 20
jentic/jentic-one
86
AI 에이전트를 위한 자체 호스팅 실행 계층으로 API 연결 및 권한 관리를 제공한다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 187
★ 1872026-10-22이슈 264
pazo01/awesome-cyber-ai-arsenal
86
공격 및 방어 목적의 AI와 LLM 보안 도구들을 모아 놓은 자료입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 181
★ 1812026-10-11이슈 2
stephnangue/warden
86
AI 에이전트와 기업 시스템을 연결하는 보안 게이트웨이를 제공합니다.
SecurityGoMPL-2.0
최근 30일 내 활발 · 라이선스 MPL-2.0 · stars 179
★ 1792026-10-20이슈 6
mahmoudrabie/agentic-ai
86
에이전트 AI 관련 연구 논문, 벤치마크, 프레임워크 및 도구를 24개 분야로 큐레이션함.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 176
★ 1762026-10-21이슈 3
MustacheCase/zanadir
86
깃허브 저장소를 분석하여 CI/CD 모범 사례를 개선할 오픈소스 도구를 제안하는 CLI 도구입니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 175
★ 1752026-10-22이슈 5
AISecurityConsortium/AIGoat
86
LLM의 취약점을 실습하며 보안 테스트를 할 수 있는 오픈소스 환경을 제공합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 173
★ 1732026-10-18이슈 2
edward-playground/aidefense-framework
86
AI/ML 시스템 보호를 위한 방어 대책 지식 기반을 제공합니다.
SecurityJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 173
★ 1732026-10-15이슈 1
stacklok/toolhive-studio
86
MCP 서버를 설치하고 관리하며 AI 에이전트와 연결하는 애플리케이션입니다.
SecurityTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 171
★ 1712026-10-23이슈 88
🆕DevMortimer/pi-warden
86
에이전트의 비정상적인 동작을 감지하고 제어하는 안전장치 역할을 합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 171
★ 1712026-10-21이슈 5
seqra/opentaint
86
AI 시대에 맞춰 커스터마이징 가능한 오픈소스 데이터 흐름 분석 도구입니다.
SecurityKotlinApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 167
★ 1672026-10-22이슈 97
IBM/vLLM-Hook
86
vLLM에 모델 내부 상태를 프로그래밍할 수 있게 하는 플러그인 저장소입니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 165
★ 1652026-10-22이슈 5
mkbhardwas12/pwned-deps
86
다양한 패키지 관리자 잠금 파일을 취약한 패키지로부터 스캔합니다.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 164
★ 1642026-10-18이슈 8
CodeAlive-AI/ai-driven-development
86
AI 기반 소프트웨어 개발을 위한 방법론과 안전 가이드라인을 제공한다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 163
★ 1632026-10-20이슈 0
🆕y0usaf/pi-jev
86
Pi 코딩 에이전트의 의사결정 계층으로 타입 안전한 Jev를 제공합니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 163
★ 1632026-10-17이슈 1
Makson179/Bello
86
코딩 과정에서 발생하는 이탈을 방지하고 결과물을 검토하는 AI 에이전트입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 162
★ 1622026-10-20이슈 3
openai/fence
86
보안 관련 기능을 제공하며 지속적인 개발이 진행 중인 프로젝트입니다.
SecurityRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 162
★ 1622026-10-23이슈 20
🆕canivel/dynolab
86
애플 실리콘 기반의 AI 안전성 및 해석 가능성 연구를 위한 작업대입니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 161
★ 1612026-10-22이슈 19
antropos17/Aegis
86
AI 에이전트의 프로세스, 파일 접근 및 네트워크 활동을 모니터링하는 운영체제 수준 도구입니다.
SecurityJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 157
★ 1572026-10-22이슈 14
jestasecurity/thumper
86
Thumper is an open-source tripwire for the Shai-Hulud npm worm. Plant fake-but-realistic credentials where the worm scans - the instant one is read, you know the box might be breached. Free and built in the open by Jesta.
SecurityPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 157
★ 1572026-10-21이슈 61
AgentEvalHQ/AgentEval
86
닷넷 환경에서 AI 에이전트의 다양한 성능을 종합적으로 평가하는 도구 모음입니다.
SecurityC#MIT
최근 30일 내 활발 · 라이선스 MIT · stars 155
★ 1552026-10-22이슈 3
AthenaCore/AwesomeResponsibleAI
86
책임감 있고 신뢰할 수 있는 AI 관련 자료들을 모아놓은 목록입니다.
SecurityMIT
최근 30일 내 활발 · 라이선스 MIT · stars 155
★ 1552026-09-28이슈 39
yzhao062/awesome-auditable-ai
86
AI 에이전트의 신뢰성 및 안전성을 검증하는 자료들을 모아 놓은 목록입니다.
SecurityPythonCC0-1.0
최근 30일 내 활발 · 라이선스 CC0-1.0 · stars 155
★ 1552026-10-19이슈 5
WhitzardAgent/AgentGuard
86
AI 에이전트를 위한 제로 트러스트 보안 기반의 접근 통제 프레임워크입니다.
SecurityPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 154
★ 1542026-10-22이슈 1
forefy/.context
86
보안 감사 및 모의 해킹을 위한 AI 에이전트 기술과 동적 워크플로우를 제공한다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 153
★ 1532026-10-22이슈 0
Strategic-Automation/violin
86
헤르메스 기반의 침투 테스트 프로파일과 자동화된 플레이북을 제공합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 153
★ 1532026-10-22이슈 91
gensecaihq/Shai-Hulud-2.0-Detector
86
Shai-Hulud 공급망 공격으로 감염된 npm 패키지를 탐지하는 도구입니다.
SecurityTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 152
★ 1522026-10-23이슈 1
🆕Cygnux-Labs/Tracekit
86
Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the agent did, and why.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 150
★ 1502026-10-22이슈 9
arbiterForge/codeArbiter
86
코드베이스의 신뢰성을 검증하고 관리하는 도구입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 149
★ 1492026-10-22이슈 43
openclaw/clawscan
86
에이전트 스킬을 위한 조합 가능한 보안 스캐닝 장치를 제공합니다.
SecurityGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 146
★ 1462026-10-22이슈 2
🆕Tcotl/AgentCapture
86
AI 에이전트의 지문 식별 및 다양한 공격에 대응하는 가상 함정 플랫폼입니다.
SecurityPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 146
★ 1462026-10-21이슈 0
🆕aaddrick/building-with-typesafe-jev
86
타입세이프 AI의 Jev를 활용하여 코딩 에이전트가 구축하는 기술을 학습합니다.
SecurityPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 145
★ 1452026-10-01이슈 1
상위 200개 표시 · 전체 400개는 메인에서 검색·정렬