gitextract_gihwybp3/ ├── .coderabbit.yaml ├── .cursor/ │ └── rules/ │ ├── cursor-rules.mdc │ ├── documentation/ │ │ ├── capitalization.mdc │ │ ├── categories.mdc │ │ ├── formatting.mdc │ │ ├── general.mdc │ │ ├── latinisms.mdc │ │ ├── lists-and-tables.mdc │ │ ├── numbers-and-dates.mdc │ │ ├── punctuation.mdc │ │ ├── voice-and-tone.mdc │ │ └── writing-process.mdc │ ├── general.mdc │ ├── nat-agents/ │ │ └── general.mdc │ ├── nat-cli/ │ │ ├── general.mdc │ │ ├── nat-eval.mdc │ │ ├── nat-info.mdc │ │ ├── nat-run-serve.mdc │ │ └── nat-workflow.mdc │ ├── nat-setup/ │ │ ├── general.mdc │ │ └── nat-toolkit-installation.mdc │ ├── nat-tests/ │ │ ├── general.mdc │ │ ├── integration-tests.mdc │ │ └── nat-test-llm.mdc │ └── nat-workflows/ │ ├── add-functions.mdc │ ├── add-tools.mdc │ └── general.mdc ├── .dockerignore ├── .gitattributes ├── .github/ │ ├── CODEOWNERS │ ├── ISSUE_TEMPLATE/ │ │ ├── bug_report.yml │ │ ├── config.yml │ │ ├── documentation_request_correction.yml │ │ ├── documentation_request_new.yml │ │ └── feature_request.yml │ ├── PULL_REQUEST_TEMPLATE.md │ ├── copy-pr-bot.yaml │ ├── ops-bot.yaml │ ├── release.yml │ └── workflows/ │ ├── ci_pipe.yml │ ├── pr.yaml │ └── stale.yaml ├── .gitignore ├── .gitlab-ci.yml ├── .gitmodules ├── .nspect-allowlist.toml ├── .pre-commit-config.yaml ├── .pytest.ini ├── .vale.ini ├── CHANGELOG.md ├── CODE-OF-CONDUCT.md ├── CONTRIBUTING.md ├── LICENSE-3rd-party.txt ├── LICENSE.md ├── README.md ├── SECURITY.md ├── ci/ │ ├── markdown-link-check-config.json │ ├── release/ │ │ ├── pr_code_freeze_template.md │ │ ├── update-version.sh │ │ └── update_doc_versions1.py │ ├── scripts/ │ │ ├── bootstrap_local_ci.sh │ │ ├── checks.sh │ │ ├── clear_notebook_output_cells.sh │ │ ├── common.sh │ │ ├── copyright.py │ │ ├── documentation_checks.sh │ │ ├── github/ │ │ │ ├── build_wheel.sh │ │ │ ├── checks.sh │ │ │ ├── common.sh │ │ │ ├── docs.sh │ │ │ └── tests.sh │ │ ├── gitlab/ │ │ │ ├── artifactory/ │ │ │ │ └── Dockerfile │ │ │ ├── artifactory_upload.sh │ │ │ ├── build_wheel.sh │ │ │ ├── checks.sh │ │ │ ├── common.sh │ │ │ ├── docs.sh │ │ │ ├── model_health_check.sh │ │ │ ├── report_test_results.py │ │ │ └── tests.sh │ │ ├── gitutils.py │ │ ├── license_diff.py │ │ ├── model_health_check.py │ │ ├── package_utils.py │ │ ├── path_checks.py │ │ ├── path_checks.sh │ │ ├── run_ci_local.sh │ │ ├── run_tests.py │ │ └── sbom_list.py │ └── vale/ │ └── styles/ │ └── config/ │ └── vocabularies/ │ └── nat/ │ ├── accept.txt │ └── reject.txt ├── conftest.py ├── docker/ │ ├── Dockerfile │ └── build_container.sh ├── docs/ │ ├── Makefile │ ├── README.md │ └── source/ │ ├── _static/ │ │ └── css/ │ │ └── custom.css │ ├── _templates/ │ │ └── sidebar-nav-bs.html │ ├── build-workflows/ │ │ ├── a2a-client.md │ │ ├── about-building-workflows.md │ │ ├── advanced/ │ │ │ ├── index.md │ │ │ ├── interactive-workflows.md │ │ │ └── middleware.md │ │ ├── embedders.md │ │ ├── functions-and-function-groups/ │ │ │ ├── function-groups.md │ │ │ ├── functions.md │ │ │ └── index.md │ │ ├── llms/ │ │ │ ├── index.md │ │ │ └── using-local-llms.md │ │ ├── mcp-client.md │ │ ├── memory.md │ │ ├── object-store.md │ │ ├── retrievers.md │ │ └── workflow-configuration.md │ ├── components/ │ │ ├── agents/ │ │ │ ├── auto-memory-wrapper/ │ │ │ │ ├── auto-memory-wrapper.md │ │ │ │ └── index.md │ │ │ ├── index.md │ │ │ ├── parallel-executor/ │ │ │ │ ├── index.md │ │ │ │ └── parallel-executor.md │ │ │ ├── react-agent/ │ │ │ │ ├── index.md │ │ │ │ └── react-agent.md │ │ │ ├── reasoning-agent/ │ │ │ │ ├── index.md │ │ │ │ └── reasoning-agent.md │ │ │ ├── responses-api-and-agent/ │ │ │ │ ├── index.md │ │ │ │ └── responses-api-and-agent.md │ │ │ ├── rewoo-agent/ │ │ │ │ ├── index.md │ │ │ │ └── rewoo-agent.md │ │ │ ├── router-agent/ │ │ │ │ ├── index.md │ │ │ │ └── router-agent.md │ │ │ ├── sequential-executor/ │ │ │ │ ├── index.md │ │ │ │ └── sequential-executor.md │ │ │ └── tool-calling-agent/ │ │ │ ├── index.md │ │ │ └── tool-calling-agent.md │ │ ├── auth/ │ │ │ ├── a2a-auth.md │ │ │ ├── api-authentication.md │ │ │ ├── index.md │ │ │ ├── mcp-auth/ │ │ │ │ ├── index.md │ │ │ │ ├── mcp-auth-token-storage.md │ │ │ │ └── mcp-service-account-auth.md │ │ │ └── user-identity.md │ │ ├── functions/ │ │ │ ├── code-execution.md │ │ │ ├── index.md │ │ │ └── text-to-sql.md │ │ ├── integrations/ │ │ │ ├── a2a.md │ │ │ ├── frameworks.md │ │ │ ├── index.md │ │ │ ├── integrating-aws-bedrock-models.md │ │ │ └── integrating-oci-generative-ai-models.md │ │ └── sharing-components.md │ ├── conf.py │ ├── extend/ │ │ ├── custom-components/ │ │ │ ├── adding-a-retriever.md │ │ │ ├── adding-an-authentication-provider.md │ │ │ ├── adding-an-llm-provider.md │ │ │ ├── custom-dataset-loader.md │ │ │ ├── custom-evaluator.md │ │ │ ├── custom-functions/ │ │ │ │ ├── function-groups.md │ │ │ │ ├── functions.md │ │ │ │ └── per-user-functions.md │ │ │ ├── finetuning.md │ │ │ ├── gated-fields.md │ │ │ ├── index.md │ │ │ ├── mcp-server.md │ │ │ ├── memory.md │ │ │ ├── object-store.md │ │ │ ├── optimizer.md │ │ │ └── telemetry-exporters.md │ │ ├── plugins.md │ │ └── testing/ │ │ ├── add-unit-tests-for-tools.md │ │ ├── index.md │ │ └── test-with-nat-test-llm.md │ ├── get-started/ │ │ ├── installation.md │ │ ├── quick-start.md │ │ └── tutorials/ │ │ ├── add-tools-to-a-workflow.md │ │ ├── build-a-demo-agent-workflow-using-cursor-rules.md │ │ ├── create-a-new-workflow.md │ │ ├── customize-a-workflow.md │ │ └── index.md │ ├── improve-workflows/ │ │ ├── about-improving-workflows.md │ │ ├── evaluate.md │ │ ├── finetuning/ │ │ │ ├── concepts.md │ │ │ ├── dpo_with_nemo_customizer.md │ │ │ ├── index.md │ │ │ └── rl_with_openpipe.md │ │ ├── optimizer.md │ │ ├── profiler.md │ │ ├── sizing-calc.md │ │ └── test-time-compute.md │ ├── index.md │ ├── reference/ │ │ ├── cli.md │ │ └── rest-api/ │ │ ├── api-server-endpoints.md │ │ ├── evaluate-api.md │ │ ├── http-interactive-execution.md │ │ ├── index.md │ │ └── websockets.md │ ├── release-notes.md │ ├── resources/ │ │ ├── contributing/ │ │ │ ├── code-of-conduct.md │ │ │ ├── cursor/ │ │ │ │ ├── cursor-rules-developer-guide.md │ │ │ │ ├── cursor-rules-reference.md │ │ │ │ └── index.md │ │ │ ├── index.md │ │ │ ├── licensing.md │ │ │ └── testing/ │ │ │ ├── index.md │ │ │ ├── running-ci-locally.md │ │ │ └── running-tests.md │ │ ├── faq.md │ │ ├── migration-guide.md │ │ ├── security-considerations.md │ │ ├── support.md │ │ └── troubleshooting.md │ ├── run-workflows/ │ │ ├── a2a-server.md │ │ ├── about-running-workflows.md │ │ ├── existing-agents/ │ │ │ ├── index.md │ │ │ └── langgraph.md │ │ ├── fastmcp-server.md │ │ ├── launching-ui.md │ │ ├── mcp-server.md │ │ └── observe/ │ │ ├── observe-workflow-with-catalyst.md │ │ ├── observe-workflow-with-data-flywheel.md │ │ ├── observe-workflow-with-dbnl.md │ │ ├── observe-workflow-with-dynatrace.md │ │ ├── observe-workflow-with-galileo.md │ │ ├── observe-workflow-with-langsmith.md │ │ ├── observe-workflow-with-otel-collector.md │ │ ├── observe-workflow-with-phoenix.md │ │ ├── observe-workflow-with-weave.md │ │ └── observe.md │ └── versions1.json ├── examples/ │ ├── A2A/ │ │ ├── currency_agent_a2a/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ ├── data/ │ │ │ │ └── sample_queries.json │ │ │ └── pyproject.toml │ │ ├── math_assistant_a2a/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_math_assistant_a2a/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ ├── data/ │ │ │ │ │ └── sample_queries.json │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_math_assistant_a2a.py │ │ └── math_assistant_a2a_protected/ │ │ ├── README.md │ │ ├── configs/ │ │ │ ├── config-client.yml │ │ │ └── config-server.yml │ │ └── pyproject.toml │ ├── HITL/ │ │ ├── por_to_jiratickets/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ └── src/ │ │ │ └── nat_por_to_jiratickets/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ ├── data/ │ │ │ │ └── por_requirements.txt │ │ │ ├── extract_por_tool.py │ │ │ ├── hitl_approval_tool.py │ │ │ ├── jira_tickets_tool.py │ │ │ └── register.py │ │ └── simple_calculator_hitl/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_simple_calculator_hitl/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config-hitl.yml │ │ │ ├── register.py │ │ │ └── retry_react_agent.py │ │ └── tests/ │ │ └── test_simple_calculator_hitl.py │ ├── MCP/ │ │ ├── kaggle_mcp/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ ├── config-per-user.yml │ │ │ │ └── config.yml │ │ │ └── pyproject.toml │ │ ├── service_account_auth_mcp/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ └── src/ │ │ │ └── nat_service_account_auth_mcp/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ ├── config-mcp-service-account-jama.yml │ │ │ │ ├── config-mcp-service-account-jira-function.yml │ │ │ │ └── config-mcp-service-account-jira.yml │ │ │ └── scripts/ │ │ │ ├── __init__.py │ │ │ └── service_tokens.py │ │ ├── simple_auth_mcp/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ ├── config-mcp-auth-jira-per-user.yml │ │ │ │ ├── config-mcp-auth-jira.yml │ │ │ │ └── config-mcp-auth-outlook.yml │ │ │ └── pyproject.toml │ │ ├── simple_calculator_fastmcp/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ └── config-mcp-client.yml │ │ │ ├── pyproject.toml │ │ │ └── tests/ │ │ │ └── test_simple_calculator_fastmcp.py │ │ ├── simple_calculator_fastmcp_protected/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ ├── config-client.yml │ │ │ │ └── config-server.yml │ │ │ ├── pyproject.toml │ │ │ └── tests/ │ │ │ └── test_simple_calculator_fastmcp_protected.py │ │ ├── simple_calculator_mcp/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ ├── config-mcp-client.yml │ │ │ │ └── config-per-user-mcp-client.yml │ │ │ ├── pyproject.toml │ │ │ └── tests/ │ │ │ └── test_simple_calculator_mcp.py │ │ └── simple_calculator_mcp_protected/ │ │ ├── README.md │ │ ├── configs/ │ │ │ ├── config-client.yml │ │ │ └── config-server.yml │ │ └── pyproject.toml │ ├── RAG/ │ │ └── simple_rag/ │ │ ├── README.md │ │ ├── configs/ │ │ │ ├── milvus_memory_rag_config.yml │ │ │ ├── milvus_memory_rag_tools_config.yml │ │ │ ├── milvus_rag_config.yml │ │ │ ├── milvus_rag_config_ttc.yml │ │ │ ├── milvus_rag_tools_config.yml │ │ │ └── rag_library_mode_config.yml │ │ ├── pyproject.toml │ │ └── tests/ │ │ └── test_simple_rag_e2e.py │ ├── README.md │ ├── UI/ │ │ └── README.md │ ├── advanced_agents/ │ │ ├── aiq_blueprint/ │ │ │ └── README.md │ │ ├── alert_triage_agent/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_alert_triage_agent/ │ │ │ │ ├── __init__.py │ │ │ │ ├── categorizer.py │ │ │ │ ├── classification_evaluator.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config_live_mode.yml │ │ │ │ │ ├── config_offline_atif.yml │ │ │ │ │ ├── config_offline_llama_31.yml │ │ │ │ │ ├── config_offline_llama_33.yml │ │ │ │ │ └── config_offline_mode.yml │ │ │ │ ├── data/ │ │ │ │ │ ├── benign_fallback_offline_data.json │ │ │ │ │ ├── maintenance_static_dataset.csv │ │ │ │ │ ├── offline_data.csv │ │ │ │ │ ├── offline_data.json │ │ │ │ │ └── output_samples/ │ │ │ │ │ ├── workflow_output.json │ │ │ │ │ └── workflow_output_atif.json │ │ │ │ ├── hardware_check_tool.py │ │ │ │ ├── host_performance_check_tool.py │ │ │ │ ├── maintenance_check.py │ │ │ │ ├── monitoring_process_check_tool.py │ │ │ │ ├── network_connectivity_check_tool.py │ │ │ │ ├── playbooks.py │ │ │ │ ├── prompts.py │ │ │ │ ├── register.py │ │ │ │ ├── run.py │ │ │ │ ├── telemetry_metrics_analysis_agent.py │ │ │ │ ├── telemetry_metrics_host_heartbeat_check_tool.py │ │ │ │ ├── telemetry_metrics_host_performance_check_tool.py │ │ │ │ └── utils.py │ │ │ └── tests/ │ │ │ ├── test_alert_triage_agent_workflow.py │ │ │ ├── test_categorizer.py │ │ │ ├── test_hardware_check_tool.py │ │ │ ├── test_host_performance_check_tool.py │ │ │ ├── test_maintenance_check.py │ │ │ ├── test_monitoring_process_check_tool.py │ │ │ ├── test_network_connectivity_check_tool.py │ │ │ ├── test_run.py │ │ │ ├── test_telemetry_metrics_host_heartbeat_check_tool.py │ │ │ ├── test_telemetry_metrics_host_performance_check_tool.py │ │ │ └── test_utils.py │ │ └── vulnerability_analysis_blueprint/ │ │ └── README.md │ ├── agents/ │ │ ├── README.md │ │ ├── auto_memory_wrapper/ │ │ │ ├── README.md │ │ │ └── configs/ │ │ │ ├── config_mem0.yml │ │ │ └── config_zep.yml │ │ ├── data/ │ │ │ ├── rewoo.json │ │ │ ├── wikipedia.csv │ │ │ ├── wikipedia.json │ │ │ ├── wikipedia.xlsx │ │ │ └── wikipedia_generated.json │ │ ├── mixture_of_agents/ │ │ │ ├── README.md │ │ │ └── configs/ │ │ │ └── config.yml │ │ ├── pyproject.toml │ │ ├── react/ │ │ │ ├── README.md │ │ │ └── configs/ │ │ │ ├── config-reasoning.yml │ │ │ └── config.yml │ │ ├── rewoo/ │ │ │ ├── README.md │ │ │ └── configs/ │ │ │ └── config.yml │ │ ├── tests/ │ │ │ ├── conftest.py │ │ │ └── test_agents.py │ │ └── tool_calling/ │ │ ├── README.md │ │ └── configs/ │ │ ├── config-reasoning.yml │ │ ├── config-responses-api.yml │ │ └── config.yml │ ├── config_inheritance/ │ │ ├── README.md │ │ └── configs/ │ │ ├── base-config.yml │ │ ├── config-debug.yml │ │ ├── config-different-model.yml │ │ ├── config-high-temp-debug.yml │ │ ├── config-high-temp.yml │ │ └── config-with-tracing.yml │ ├── control_flow/ │ │ ├── hybrid_control_flow/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_hybrid_control_flow/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_hybrid_control_flow.py │ │ ├── parallel_executor/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_parallel_executor/ │ │ │ │ ├── __init__.py │ │ │ │ └── configs/ │ │ │ │ └── config.yml │ │ │ └── tests/ │ │ │ └── test_parallel_executor_example.py │ │ ├── router_agent/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_router_agent/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_control_flow_example_router_agent.py │ │ └── sequential_executor/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_sequential_executor/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ └── register.py │ │ └── tests/ │ │ └── test_example_sequential_executor.py │ ├── custom_functions/ │ │ ├── automated_description_generation/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_automated_description_generation/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config.yml │ │ │ │ │ └── config_no_auto.yml │ │ │ │ ├── register.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ ├── description_generation.py │ │ │ │ ├── prompts.py │ │ │ │ └── workflow_utils.py │ │ │ └── tests/ │ │ │ └── test_auto_desc_generation.py │ │ └── plot_charts/ │ │ ├── README.md │ │ ├── example_data.json │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_plot_charts/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ ├── data/ │ │ │ │ └── plot_charts_questions.json │ │ │ ├── plot_chat.py │ │ │ └── register.py │ │ └── tests/ │ │ └── test_plot_charts_workflow.py │ ├── deploy/ │ │ ├── README.md │ │ ├── docker-compose.memmachine.yml │ │ ├── docker-compose.milvus.yml │ │ ├── docker-compose.minio.yml │ │ ├── docker-compose.mysql.yml │ │ ├── docker-compose.phoenix.yml │ │ └── docker-compose.redis.yml │ ├── documentation_guides/ │ │ ├── README.md │ │ ├── locally_hosted_llms/ │ │ │ ├── nim_config.yml │ │ │ └── vllm_config.yml │ │ ├── pyproject.toml │ │ ├── tests/ │ │ │ ├── conftest.py │ │ │ ├── test_custom_workflow.py │ │ │ └── test_text_file_ingest.py │ │ └── workflows/ │ │ ├── custom_workflow/ │ │ │ ├── custom_config.yml │ │ │ └── search_config.yml │ │ └── text_file_ingest/ │ │ ├── pyproject.toml │ │ └── src/ │ │ └── text_file_ingest/ │ │ ├── __init__.py │ │ ├── configs/ │ │ │ └── config.yml │ │ ├── data/ │ │ │ ├── doca_overview.txt │ │ │ ├── gpunetio_blog_post.txt │ │ │ └── gpunetio_programming_guide.txt │ │ ├── register.py │ │ └── text_file_ingest_function.py │ ├── dynamo_integration/ │ │ ├── ARCHITECTURE.md │ │ ├── README.md │ │ ├── data/ │ │ │ └── raw/ │ │ │ └── banking/ │ │ │ └── tools.json │ │ ├── latency_sensitivity_demo/ │ │ │ ├── INSTALL_LIBRARY.md │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── latency_sensitivity_demo/ │ │ │ │ ├── __init__.py │ │ │ │ ├── compare_sensitivity_perf.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config_profile.yml │ │ │ │ │ └── config_with_trie.yml │ │ │ │ ├── data/ │ │ │ │ │ └── customer_queries.json │ │ │ │ ├── register.py │ │ │ │ ├── scripts/ │ │ │ │ │ ├── dynamo_stack.sh │ │ │ │ │ └── dynamo_stack_sensitivity.sh │ │ │ │ ├── sensitivity_report.py │ │ │ │ └── workflow.py │ │ │ └── tests/ │ │ │ └── test_workflow.py │ │ ├── react_benchmark_agent/ │ │ │ ├── README.md │ │ │ ├── README_PREDICTION_TRIE.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── react_benchmark_agent/ │ │ │ │ ├── DEVELOPER_NOTES.md │ │ │ │ ├── __init__.py │ │ │ │ ├── banking_tools.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config_dynamo_adk_e2e_test.yml │ │ │ │ │ ├── config_dynamo_e2e_test.yml │ │ │ │ │ ├── config_dynamo_prefix_e2e_test.yml │ │ │ │ │ ├── eval_config_no_rethinking_full_test.yml │ │ │ │ │ ├── eval_config_no_rethinking_minimal_test.yml │ │ │ │ │ ├── eval_config_rethinking_full_test.yml │ │ │ │ │ ├── optimize_rethinking_full_test.yml │ │ │ │ │ ├── profile_rethinking_full_test.yml │ │ │ │ │ └── run_with_prediction_trie.yml │ │ │ │ ├── evaluators/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── action_completion_evaluator.py │ │ │ │ │ └── tsq_evaluator.py │ │ │ │ ├── react_benchmark_agent.py │ │ │ │ ├── register.py │ │ │ │ ├── self_evaluating_agent_with_feedback.py │ │ │ │ └── tool_intent_stubs.py │ │ │ └── tests/ │ │ │ ├── test_self_evaluation.py │ │ │ ├── test_tool_intent_buffer.py │ │ │ └── test_tsq_formula.py │ │ └── scripts/ │ │ ├── create_test_subset.py │ │ ├── download_agent_leaderboard_v2.py │ │ ├── plot_throughput_histograms_per_request.py │ │ ├── plot_throughput_vs_tsq_per_request.py │ │ ├── run_concurrency_benchmark.sh │ │ └── throughput_analysis.py │ ├── evaluation_and_profiling/ │ │ ├── email_phishing_analyzer/ │ │ │ ├── .dockerignore │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── scripts/ │ │ │ │ └── run_phishing_evals_all.sh │ │ │ ├── src/ │ │ │ │ └── nat_email_phishing_analyzer/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config-langsmith-eval.yml │ │ │ │ │ ├── config-langsmith-optimize.yml │ │ │ │ │ ├── config-llama-3.1-8b-instruct.yml │ │ │ │ │ ├── config-llama-3.3-70b-instruct.yml │ │ │ │ │ ├── config-mistral-large-3-675b-instruct-2512.yml │ │ │ │ │ ├── config-mistral-small-4-119b-2603.yml │ │ │ │ │ ├── config-nemotron-3-nano-30b-a3b.yml │ │ │ │ │ ├── config-nemotron-3-super-120b-a12b.yml │ │ │ │ │ ├── config-reasoning.yml │ │ │ │ │ ├── config.yml │ │ │ │ │ └── config_optimizer.yml │ │ │ │ ├── data/ │ │ │ │ │ └── smaller_test.csv │ │ │ │ ├── prompt.py │ │ │ │ ├── register.py │ │ │ │ └── utils.py │ │ │ └── tests/ │ │ │ └── test_email_phishing_analyzer.py │ │ ├── simple_calculator_eval/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_simple_calculator_eval/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config-branching-nested-trajectory-eval.yml │ │ │ │ │ ├── config-custom-dataset-format.yml │ │ │ │ │ ├── config-nested-trajectory-eval.yml │ │ │ │ │ ├── config-sizing-calc.yml │ │ │ │ │ ├── config-trajectory-eval.yml │ │ │ │ │ ├── config-tunable-rag-eval-atif.yml │ │ │ │ │ ├── config-tunable-rag-eval.yml │ │ │ │ │ └── config-with-custom-post-process.yml │ │ │ │ ├── data/ │ │ │ │ │ ├── output_samples/ │ │ │ │ │ │ ├── branching_nested_trajectory_eval/ │ │ │ │ │ │ │ ├── intermediate_step-vs-atif.md │ │ │ │ │ │ │ ├── workflow_output.json │ │ │ │ │ │ │ └── workflow_output_atif.json │ │ │ │ │ │ ├── nested_trajectory_eval/ │ │ │ │ │ │ │ ├── intermediate_step-vs-atif.md │ │ │ │ │ │ │ ├── workflow_output.json │ │ │ │ │ │ │ └── workflow_output_atif.json │ │ │ │ │ │ └── trajectory_eval/ │ │ │ │ │ │ ├── intermediate_step-vs-atif.md │ │ │ │ │ │ ├── workflow_output.json │ │ │ │ │ │ └── workflow_output_atif.json │ │ │ │ │ ├── simple_calculator_nested.json │ │ │ │ │ ├── simple_calculator_power_branch.json │ │ │ │ │ └── simple_calculator_power_of_two.json │ │ │ │ ├── register.py │ │ │ │ └── scripts/ │ │ │ │ ├── __init__.py │ │ │ │ ├── custom_dataset_parser.py │ │ │ │ └── custom_post_process.py │ │ │ └── tests/ │ │ │ ├── test_nested_trajectory_eval.py │ │ │ └── test_simple_calculator_eval.py │ │ └── simple_web_query_eval/ │ │ ├── README.md │ │ ├── atif-eval-readme.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_simple_web_query_eval/ │ │ │ ├── __init__.py │ │ │ ├── atif_only_evaluator_register.py │ │ │ ├── configs/ │ │ │ │ ├── eval_config.yml │ │ │ │ ├── eval_config_atif.yml │ │ │ │ ├── eval_config_atif_custom_evaluator.yml │ │ │ │ ├── eval_config_llama31.yml │ │ │ │ ├── eval_config_llama31_atif.yml │ │ │ │ ├── eval_config_llama33.yml │ │ │ │ ├── eval_config_llama33_atif.yml │ │ │ │ ├── eval_config_openai.yml │ │ │ │ ├── eval_only_config.yml │ │ │ │ └── eval_upload.yml │ │ │ ├── data/ │ │ │ │ ├── langsmith.csv │ │ │ │ ├── langsmith.json │ │ │ │ ├── langsmith.xlsx │ │ │ │ ├── langsmith_generated.json │ │ │ │ └── simple_questions.json │ │ │ ├── register.py │ │ │ └── scripts/ │ │ │ ├── __init__.py │ │ │ ├── evaluate_single_item.py │ │ │ ├── evaluate_single_item_simple.py │ │ │ └── workflow_to_csv.py │ │ └── tests/ │ │ ├── test_atif_only_evaluator_register.py │ │ └── test_simple_web_query_eval.py │ ├── finetuning/ │ │ ├── dpo_tic_tac_toe/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ └── src/ │ │ │ └── dpo_tic_tac_toe/ │ │ │ ├── __init__.py │ │ │ ├── board_position_scorer.py │ │ │ ├── choose_move_function.py │ │ │ ├── configs/ │ │ │ │ ├── config.yml │ │ │ │ └── config_after_training.yml │ │ │ ├── core.py │ │ │ ├── data/ │ │ │ │ └── data.json │ │ │ ├── dpo_workflow.py │ │ │ ├── evaluator.py │ │ │ ├── evaluator_register.py │ │ │ ├── llm_agents.py │ │ │ ├── move_search_strategy.py │ │ │ ├── register.py │ │ │ └── ttc_move_selector_function.py │ │ └── rl_with_openpipe_art/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ └── src/ │ │ └── rl_with_openpipe_art/ │ │ ├── __init__.py │ │ ├── accuracy_evaluator.py │ │ ├── configs/ │ │ │ ├── config.yml │ │ │ ├── config_post_train.yml │ │ │ └── config_pre_train.yml │ │ ├── core.py │ │ ├── data/ │ │ │ ├── data.json │ │ │ └── eval_data.json │ │ ├── evaluator_register.py │ │ ├── llm_agents.py │ │ ├── register.py │ │ └── rl_with_openpipe_art.py │ ├── frameworks/ │ │ ├── adk_demo/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_adk_demo/ │ │ │ │ ├── __init__.py │ │ │ │ ├── agent.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config.yml │ │ │ │ │ ├── config_oai.yml │ │ │ │ │ └── eval_config.yml │ │ │ │ ├── data/ │ │ │ │ │ └── eval.json │ │ │ │ ├── nat_time_tool.py │ │ │ │ ├── register.py │ │ │ │ └── weather_update_tool.py │ │ │ └── tests/ │ │ │ └── test_adk_demo_e2e.py │ │ ├── agno_personal_finance/ │ │ │ ├── .dockerignore │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_agno_personal_finance/ │ │ │ │ ├── __init__.py │ │ │ │ ├── agno_personal_finance_function.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_agno_personal_finance_workflow.py │ │ ├── auto_wrapper/ │ │ │ └── langchain_deep_research/ │ │ │ ├── README.md │ │ │ ├── configs/ │ │ │ │ ├── config.yml │ │ │ │ ├── config_with_eval.yml │ │ │ │ ├── config_with_llms.yml │ │ │ │ └── config_with_telemetry.yml │ │ │ ├── data/ │ │ │ │ ├── DeepConsult_top1.csv │ │ │ │ └── DeepConsult_top10.csv │ │ │ ├── langgraph_deep_research.ipynb │ │ │ └── src/ │ │ │ └── configurable_agent.py │ │ ├── haystack_deep_research_agent/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_haystack_deep_research_agent/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ ├── data/ │ │ │ │ │ ├── carbonara.md │ │ │ │ │ └── sample_document.txt │ │ │ │ ├── pipelines/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── indexing.py │ │ │ │ │ ├── rag.py │ │ │ │ │ └── search.py │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_haystack_deep_research_agent.py │ │ ├── multi_frameworks/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_multi_frameworks/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ ├── haystack_agent.py │ │ │ │ ├── langchain_research_tool.py │ │ │ │ ├── llama_index_rag_tool.py │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_multi_frameworks_workflow.py │ │ ├── nat_autogen_demo/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ └── src/ │ │ │ └── nat_autogen_demo/ │ │ │ ├── __init__.py │ │ │ ├── autogen_team.py │ │ │ ├── configs/ │ │ │ │ ├── config-eval.yml │ │ │ │ └── config.yml │ │ │ ├── data/ │ │ │ │ └── toy_data.json │ │ │ ├── register.py │ │ │ └── traffic_status_tool.py │ │ ├── semantic_kernel_demo/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_semantic_kernel_demo/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ ├── data/ │ │ │ │ │ ├── hotel_prices.json │ │ │ │ │ └── local_events.json │ │ │ │ ├── hotel_price_tool.py │ │ │ │ ├── local_events_tool.py │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_semantic_kernel_workflow.py │ │ └── strands_demo/ │ │ ├── README.md │ │ ├── bedrock_agentcore/ │ │ │ ├── .dockerignore │ │ │ ├── Dockerfile │ │ │ ├── README.md │ │ │ └── scripts/ │ │ │ ├── deploy_nat.py │ │ │ ├── get_agentcore_runtime_id.py │ │ │ ├── run_nat_no_OTEL.sh │ │ │ ├── run_nat_with_OTEL.sh │ │ │ ├── update_nat.py │ │ │ └── verify_nat.py │ │ ├── pyproject.toml │ │ └── src/ │ │ └── nat_strands_demo/ │ │ ├── __init__.py │ │ ├── configs/ │ │ │ ├── agentcore_config.yml │ │ │ ├── config.yml │ │ │ ├── eval_config.yml │ │ │ ├── optimizer_config.yml │ │ │ └── sizing_config.yml │ │ ├── data/ │ │ │ └── strands.json │ │ ├── ping_tool.py │ │ ├── register.py │ │ └── url_directory.py │ ├── front_ends/ │ │ ├── per_user_workflow/ │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ └── src/ │ │ │ └── nat_per_user_workflow/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ ├── per_user_functions.py │ │ │ ├── per_user_workflow.py │ │ │ └── register.py │ │ ├── simple_auth/ │ │ │ ├── Dockerfile │ │ │ ├── README.md │ │ │ ├── docker-compose.yml │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_simple_auth/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ └── config.yml │ │ │ │ ├── ip_lookup.py │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_simple_auth.py │ │ └── simple_calculator_custom_routes/ │ │ ├── README.md │ │ ├── configs/ │ │ │ └── config-metadata.yml │ │ ├── pyproject.toml │ │ └── tests/ │ │ └── test_simple_calculator_custom_routes.py │ ├── getting_started/ │ │ ├── scaffolding/ │ │ │ └── README.md │ │ ├── simple_calculator/ │ │ │ ├── .dockerignore │ │ │ ├── README.md │ │ │ ├── pyproject.toml │ │ │ ├── src/ │ │ │ │ └── nat_simple_calculator/ │ │ │ │ ├── __init__.py │ │ │ │ ├── configs/ │ │ │ │ │ ├── config-reasoning.yml │ │ │ │ │ └── config.yml │ │ │ │ ├── data/ │ │ │ │ │ ├── simple_calculator.json │ │ │ │ │ └── simple_calculator_questions.json │ │ │ │ └── register.py │ │ │ └── tests/ │ │ │ └── test_simple_calculator_workflow.py │ │ └── simple_web_query/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_simple_web_query/ │ │ │ ├── __init__.py │ │ │ ├── configs/ │ │ │ │ └── config.yml │ │ │ └── register.py │ │ └── tests/ │ │ ├── test_simple_web_query_workflow.py │ │ └── test_web_query_tool.py │ ├── memory/ │ │ ├── memmachine/ │ │ │ ├── README.md │ │ │ ├── configuration.yml │ │ │ └── memmachine_memory_example.ipynb │ │ └── redis/ │ │ ├── README.md │ │ ├── configs/ │ │ │ └── config.yml │ │ ├── pyproject.toml │ │ └── tests/ │ │ └── test_memory_redis.py │ ├── notebooks/ │ │ ├── README.md │ │ ├── adding_tools_to_agents.ipynb │ │ ├── bringing_your_own_agent.ipynb │ │ ├── eval_atif_custom_evaluator.ipynb │ │ ├── eval_atif_standalone.ipynb │ │ ├── eval_harbor_atif_interop.ipynb │ │ ├── getting_started_with_nat.ipynb │ │ ├── hello_world.ipynb │ │ ├── launchables/ │ │ │ ├── GPU_Cluster_Sizing_with_NeMo_Agent_Toolkit.ipynb │ │ │ └── README.md │ │ ├── mcp_setup_and_integration.ipynb │ │ ├── multi_agent_orchestration.ipynb │ │ ├── observability_evaluation_and_profiling.ipynb │ │ ├── optimize_model_selection.ipynb │ │ ├── pyproject.toml │ │ └── tests/ │ │ └── test_notebooks_e2e.py │ ├── object_store/ │ │ └── user_report/ │ │ ├── README.md │ │ ├── configs/ │ │ │ ├── config_mem.yml │ │ │ ├── config_mysql.yml │ │ │ ├── config_redis.yml │ │ │ └── config_s3.yml │ │ ├── data/ │ │ │ └── object_store/ │ │ │ └── reports/ │ │ │ ├── 12345/ │ │ │ │ └── 2025-04-15.json │ │ │ ├── 24680/ │ │ │ │ └── 2025-03-30.json │ │ │ └── 67890/ │ │ │ └── latest.json │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_user_report/ │ │ │ ├── __init__.py │ │ │ ├── register.py │ │ │ └── user_report_tools.py │ │ └── tests/ │ │ └── test_objext_store_example_user_report_tool.py │ ├── observability/ │ │ └── simple_calculator_observability/ │ │ ├── README.md │ │ ├── configs/ │ │ │ ├── config-catalyst.yml │ │ │ ├── config-dbnl.yml │ │ │ ├── config-galileo.yml │ │ │ ├── config-langfuse.yml │ │ │ ├── config-langsmith-eval.yml │ │ │ ├── config-langsmith-optimize.yml │ │ │ ├── config-langsmith.yml │ │ │ ├── config-otel-file.yml │ │ │ ├── config-patronus.yml │ │ │ ├── config-phoenix-nested.yml │ │ │ ├── config-phoenix.yml │ │ │ └── config-weave.yml │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat_simple_calculator_observability/ │ │ │ ├── __init__.py │ │ │ └── register.py │ │ └── tests/ │ │ └── test_simple_calc_observability.py │ ├── prompt_from_file/ │ │ ├── README.md │ │ ├── configs/ │ │ │ └── config.yml │ │ ├── prompts/ │ │ │ └── system_prompt.txt │ │ └── pyproject.toml │ └── safety_and_security/ │ └── retail_agent/ │ ├── README.md │ ├── pyproject.toml │ ├── src/ │ │ └── nat_retail_agent/ │ │ ├── __init__.py │ │ ├── configs/ │ │ │ ├── config-eval.yml │ │ │ ├── config-with-defenses.yml │ │ │ ├── config.yml │ │ │ ├── red-teaming-with-defenses.yml │ │ │ └── red-teaming.yml │ │ ├── data/ │ │ │ ├── customers.json │ │ │ ├── evalset-redteaming.json │ │ │ ├── evalset.json │ │ │ └── products.json │ │ └── register.py │ └── tests/ │ └── test_retail_agent.py ├── external/ │ └── dynamo/ │ ├── E2E_SEQUENCE.md │ ├── README.md │ ├── components/ │ │ ├── ARCHITECTURE.md │ │ ├── README.md │ │ ├── __init__.py │ │ ├── config.yaml │ │ ├── kv_indexer.py │ │ ├── processor.py │ │ └── router.py │ ├── demo_priority_eviction.sh │ ├── monitor_dynamo.sh │ ├── monitoring/ │ │ ├── README.md │ │ ├── docker-compose.yml │ │ ├── grafana/ │ │ │ └── provisioning/ │ │ │ ├── dashboards/ │ │ │ │ ├── dashboards.yml │ │ │ │ └── json/ │ │ │ │ └── dynamo-overview.json │ │ │ └── datasources/ │ │ │ └── datasources.yml │ │ ├── prometheus.yml │ │ ├── rules/ │ │ │ ├── sglang-aliases.yml │ │ │ └── vllm-aliases.yml │ │ └── scripts/ │ │ └── kv_event_observer.py │ ├── start_dynamo_disagg.sh │ ├── start_dynamo_optimized_thompson_hints_sglang.sh │ ├── start_dynamo_optimized_thompson_hints_vllm.sh │ ├── start_dynamo_unified.sh │ ├── stop_dynamo.sh │ └── test_dynamo_integration.sh ├── nat.code-workspace ├── packages/ │ ├── nvidia_nat_a2a/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── a2a/ │ │ │ ├── __init__.py │ │ │ ├── auth/ │ │ │ │ ├── __init__.py │ │ │ │ └── credential_service.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ └── commands.py │ │ │ ├── client/ │ │ │ │ ├── __init__.py │ │ │ │ ├── client_base.py │ │ │ │ ├── client_config.py │ │ │ │ └── client_impl.py │ │ │ ├── register.py │ │ │ └── server/ │ │ │ ├── __init__.py │ │ │ ├── agent_executor_adapter.py │ │ │ ├── front_end_config.py │ │ │ ├── front_end_plugin.py │ │ │ ├── front_end_plugin_worker.py │ │ │ ├── oauth_middleware.py │ │ │ └── register_frontend.py │ │ └── tests/ │ │ ├── auth/ │ │ │ └── test_credential_service.py │ │ ├── cli/ │ │ │ └── test_cli.py │ │ ├── client/ │ │ │ ├── conftest.py │ │ │ ├── test_client_function_group.py │ │ │ └── test_client_functionality.py │ │ ├── conftest.py │ │ └── server/ │ │ ├── conftest.py │ │ ├── test_agent_card_generation.py │ │ ├── test_oauth_middleware.py │ │ └── test_server_functionality.py │ ├── nvidia_nat_adk/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── adk/ │ │ │ ├── __init__.py │ │ │ ├── adk_parser.py │ │ │ ├── callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_adk_callback_handler.py │ │ ├── test_adk_llm.py │ │ ├── test_adk_parser.py │ │ └── test_adk_tool_wrapper.py │ ├── nvidia_nat_agno/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── agno/ │ │ │ ├── __init__.py │ │ │ ├── callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ ├── tool_wrapper.py │ │ │ └── tools/ │ │ │ ├── __init__.py │ │ │ ├── register.py │ │ │ └── serp_api_tool.py │ │ └── tests/ │ │ ├── test_agno_callback_handler.py │ │ ├── test_llm_agno.py │ │ ├── test_tool_wrapper.py │ │ └── tools/ │ │ └── test_serp_api_tool.py │ ├── nvidia_nat_app/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── nat_app/ │ │ │ ├── __init__.py │ │ │ ├── api.py │ │ │ ├── compiler/ │ │ │ │ ├── __init__.py │ │ │ │ ├── compilation_context.py │ │ │ │ ├── compilation_stage.py │ │ │ │ ├── compiler.py │ │ │ │ ├── default_graph_compiler.py │ │ │ │ ├── errors.py │ │ │ │ ├── optimizer.py │ │ │ │ └── pipelined_compiler.py │ │ │ ├── constraints/ │ │ │ │ ├── __init__.py │ │ │ │ ├── decorators.py │ │ │ │ ├── models.py │ │ │ │ └── resolution.py │ │ │ ├── executors/ │ │ │ │ ├── __init__.py │ │ │ │ ├── execution_state.py │ │ │ │ ├── metrics.py │ │ │ │ ├── result_handler.py │ │ │ │ └── runner.py │ │ │ ├── graph/ │ │ │ │ ├── __init__.py │ │ │ │ ├── access.py │ │ │ │ ├── adapter.py │ │ │ │ ├── analysis.py │ │ │ │ ├── factory.py │ │ │ │ ├── llm_detection.py │ │ │ │ ├── models.py │ │ │ │ ├── protocols.py │ │ │ │ ├── scheduling.py │ │ │ │ ├── static_analysis.py │ │ │ │ ├── topology.py │ │ │ │ └── types.py │ │ │ ├── speculation/ │ │ │ │ ├── __init__.py │ │ │ │ ├── plan.py │ │ │ │ ├── planner.py │ │ │ │ ├── resolution.py │ │ │ │ ├── safety.py │ │ │ │ └── strategies/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base.py │ │ │ │ └── router_branch.py │ │ │ └── stages/ │ │ │ ├── __init__.py │ │ │ ├── edge_classification.py │ │ │ ├── extract.py │ │ │ ├── llm_analysis.py │ │ │ ├── node_analysis.py │ │ │ ├── priority_assignment.py │ │ │ ├── scheduling.py │ │ │ ├── topology.py │ │ │ └── validate.py │ │ └── tests/ │ │ ├── __init__.py │ │ ├── compiler/ │ │ │ ├── __init__.py │ │ │ ├── test_compilation_context.py │ │ │ ├── test_compilation_stage.py │ │ │ ├── test_compiler.py │ │ │ ├── test_default_graph_compiler.py │ │ │ └── test_pipelined_compiler.py │ │ ├── conftest.py │ │ ├── constraints/ │ │ │ ├── __init__.py │ │ │ ├── test_decorators.py │ │ │ ├── test_models.py │ │ │ └── test_resolution.py │ │ ├── executors/ │ │ │ ├── __init__.py │ │ │ ├── test_execution_state.py │ │ │ ├── test_metrics.py │ │ │ ├── test_result_handler.py │ │ │ └── test_runner.py │ │ ├── graph/ │ │ │ ├── __init__.py │ │ │ ├── conftest.py │ │ │ ├── test_access.py │ │ │ ├── test_adapter.py │ │ │ ├── test_analysis.py │ │ │ ├── test_factory.py │ │ │ ├── test_llm_detection.py │ │ │ ├── test_models.py │ │ │ ├── test_optimizer.py │ │ │ ├── test_scheduling.py │ │ │ ├── test_static_analysis.py │ │ │ ├── test_topology.py │ │ │ ├── test_types.py │ │ │ └── test_uncertainty_invariants.py │ │ ├── speculation/ │ │ │ ├── __init__.py │ │ │ ├── test_plan.py │ │ │ └── test_safety.py │ │ ├── stages/ │ │ │ ├── __init__.py │ │ │ ├── test_edge_classification.py │ │ │ ├── test_extract.py │ │ │ ├── test_llm_analysis.py │ │ │ ├── test_node_analysis.py │ │ │ ├── test_priority_assignment.py │ │ │ ├── test_scheduling.py │ │ │ ├── test_topology.py │ │ │ └── test_validate.py │ │ └── test_api.py │ ├── nvidia_nat_atif/ │ │ ├── atif-step-extra-guide.md │ │ ├── atof-event-format.md │ │ ├── atof-to-atif-conversion-guide.md │ │ ├── examples/ │ │ │ └── atof_to_atif/ │ │ │ ├── README.md │ │ │ ├── convert_atof_examples_to_atif.py │ │ │ ├── generate_atof_examples.py │ │ │ └── output/ │ │ │ ├── exmp01_atif.json │ │ │ ├── exmp01_atof.jsonl │ │ │ ├── exmp02_atif.json │ │ │ ├── exmp02_atof.jsonl │ │ │ ├── exmp03_atif.json │ │ │ ├── exmp03_atof.jsonl │ │ │ ├── exmp04_atif.json │ │ │ ├── exmp04_atof.jsonl │ │ │ ├── exmp05_atif.json │ │ │ ├── exmp05_atof.jsonl │ │ │ ├── exmp06_atif.json │ │ │ └── exmp06_atof.jsonl │ │ ├── intermediate-step-to-atif-mapping.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── atif/ │ │ │ │ ├── __init__.py │ │ │ │ ├── agent.py │ │ │ │ ├── atif_step_extra.py │ │ │ │ ├── content.py │ │ │ │ ├── final_metrics.py │ │ │ │ ├── metrics.py │ │ │ │ ├── observation.py │ │ │ │ ├── observation_result.py │ │ │ │ ├── scripts/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── generate_atif_trajectory.py │ │ │ │ ├── step.py │ │ │ │ ├── subagent_trajectory_ref.py │ │ │ │ ├── tool_call.py │ │ │ │ └── trajectory.py │ │ │ ├── atof/ │ │ │ │ ├── __init__.py │ │ │ │ ├── category.py │ │ │ │ ├── events.py │ │ │ │ ├── extractors.py │ │ │ │ ├── flags.py │ │ │ │ ├── io.py │ │ │ │ ├── schemas.py │ │ │ │ └── scripts/ │ │ │ │ ├── __init__.py │ │ │ │ └── atof_to_atif_converter.py │ │ │ └── meta/ │ │ │ └── pypi.md │ │ └── tests/ │ │ ├── test_atif_v17_validators.py │ │ ├── test_data_schema_validation.py │ │ ├── test_extractors.py │ │ ├── test_schema_validation.py │ │ ├── test_shape_mismatch.py │ │ ├── test_spec_compliance.py │ │ └── test_tier1_conversion.py │ ├── nvidia_nat_autogen/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── autogen/ │ │ │ ├── __init__.py │ │ │ ├── callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_callback_handler_autogen.py │ │ ├── test_callback_handler_integration.py │ │ ├── test_llm_autogen.py │ │ ├── test_register_autogen.py │ │ └── test_tool_wrapper_autogen.py │ ├── nvidia_nat_config_optimizer/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── config_optimizer/ │ │ │ ├── __init__.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── commands.py │ │ │ │ └── optimize.py │ │ │ ├── eval_runtime_loader.py │ │ │ ├── optimizable_utils.py │ │ │ ├── optimizer_runtime.py │ │ │ ├── parameters/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base.py │ │ │ │ ├── optimizer.py │ │ │ │ ├── pareto_visualizer.py │ │ │ │ └── selection.py │ │ │ ├── prompts/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base.py │ │ │ │ ├── ga_individual.py │ │ │ │ ├── ga_prompt_optimizer.py │ │ │ │ └── oracle_feedback.py │ │ │ ├── register.py │ │ │ └── update_helpers.py │ │ └── tests/ │ │ ├── test_optimizable_utils.py │ │ ├── test_optimizer_runtime_extra.py │ │ ├── test_oracle_feedback.py │ │ ├── test_parameter_optimizer.py │ │ ├── test_parameter_selection_extra.py │ │ ├── test_pareto_visualizer_extra.py │ │ ├── test_prompt_optimizer.py │ │ └── test_update_helpers.py │ ├── nvidia_nat_core/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── authentication/ │ │ │ │ ├── __init__.py │ │ │ │ ├── api_key/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── api_key_auth_provider.py │ │ │ │ │ ├── api_key_auth_provider_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── credential_validator/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── bearer_token_validator.py │ │ │ │ ├── exceptions/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── api_key_exceptions.py │ │ │ │ ├── http_basic_auth/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── http_basic_auth_provider.py │ │ │ │ │ └── register.py │ │ │ │ ├── interfaces.py │ │ │ │ ├── jwt_utils.py │ │ │ │ ├── oauth2/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── oauth2_auth_code_flow_provider.py │ │ │ │ │ ├── oauth2_auth_code_flow_provider_config.py │ │ │ │ │ ├── oauth2_resource_server_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── register.py │ │ │ │ └── token_storage.py │ │ │ ├── builder/ │ │ │ │ ├── __init__.py │ │ │ │ ├── builder.py │ │ │ │ ├── child_builder.py │ │ │ │ ├── component_utils.py │ │ │ │ ├── context.py │ │ │ │ ├── dataset_loader.py │ │ │ │ ├── embedder.py │ │ │ │ ├── evaluator.py │ │ │ │ ├── framework_enum.py │ │ │ │ ├── front_end.py │ │ │ │ ├── function.py │ │ │ │ ├── function_base.py │ │ │ │ ├── function_info.py │ │ │ │ ├── intermediate_step_manager.py │ │ │ │ ├── llm.py │ │ │ │ ├── per_user_workflow_builder.py │ │ │ │ ├── retriever.py │ │ │ │ ├── runtime_event_subscriber.py │ │ │ │ ├── sync_builder.py │ │ │ │ ├── user_interaction_manager.py │ │ │ │ ├── workflow.py │ │ │ │ └── workflow_builder.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── cli_utils/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── config_override.py │ │ │ │ │ └── validation.py │ │ │ │ ├── commands/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── configure/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── channel/ │ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ │ ├── add.py │ │ │ │ │ │ │ ├── channel.py │ │ │ │ │ │ │ ├── remove.py │ │ │ │ │ │ │ └── update.py │ │ │ │ │ │ └── configure.py │ │ │ │ │ ├── finetune.py │ │ │ │ │ ├── info/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── info.py │ │ │ │ │ │ ├── list_channels.py │ │ │ │ │ │ └── list_components.py │ │ │ │ │ ├── object_store/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ └── object_store.py │ │ │ │ │ ├── registry/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── publish.py │ │ │ │ │ │ ├── pull.py │ │ │ │ │ │ ├── registry.py │ │ │ │ │ │ ├── remove.py │ │ │ │ │ │ └── search.py │ │ │ │ │ ├── start.py │ │ │ │ │ ├── uninstall.py │ │ │ │ │ ├── validate.py │ │ │ │ │ └── workflow/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── templates/ │ │ │ │ │ │ ├── __init__.py.j2 │ │ │ │ │ │ ├── config.yml.j2 │ │ │ │ │ │ ├── pyproject.toml.j2 │ │ │ │ │ │ ├── register.py.j2 │ │ │ │ │ │ └── workflow.py.j2 │ │ │ │ │ ├── workflow.py │ │ │ │ │ └── workflow_commands.py │ │ │ │ ├── entrypoint.py │ │ │ │ ├── main.py │ │ │ │ ├── plugin_loader.py │ │ │ │ ├── register_workflow.py │ │ │ │ └── type_registry.py │ │ │ ├── data_models/ │ │ │ │ ├── __init__.py │ │ │ │ ├── agent.py │ │ │ │ ├── api_server.py │ │ │ │ ├── authentication.py │ │ │ │ ├── common.py │ │ │ │ ├── component.py │ │ │ │ ├── component_ref.py │ │ │ │ ├── config.py │ │ │ │ ├── dataset_handler.py │ │ │ │ ├── discovery_metadata.py │ │ │ │ ├── embedder.py │ │ │ │ ├── evaluate.py │ │ │ │ ├── evaluate_config.py │ │ │ │ ├── evaluate_runtime.py │ │ │ │ ├── evaluator.py │ │ │ │ ├── finetuning.py │ │ │ │ ├── front_end.py │ │ │ │ ├── function.py │ │ │ │ ├── function_dependencies.py │ │ │ │ ├── gated_field_mixin.py │ │ │ │ ├── interactive.py │ │ │ │ ├── interactive_http.py │ │ │ │ ├── intermediate_step.py │ │ │ │ ├── invocation_node.py │ │ │ │ ├── llm.py │ │ │ │ ├── logging.py │ │ │ │ ├── memory.py │ │ │ │ ├── middleware.py │ │ │ │ ├── object_store.py │ │ │ │ ├── openai_mcp.py │ │ │ │ ├── optimizable.py │ │ │ │ ├── optimizer.py │ │ │ │ ├── profiler.py │ │ │ │ ├── profiler_callback.py │ │ │ │ ├── registry_handler.py │ │ │ │ ├── retriever.py │ │ │ │ ├── retry_mixin.py │ │ │ │ ├── runtime_enum.py │ │ │ │ ├── span.py │ │ │ │ ├── ssl_verification_mixin.py │ │ │ │ ├── step_adaptor.py │ │ │ │ ├── streaming.py │ │ │ │ ├── swe_bench_model.py │ │ │ │ ├── telemetry_exporter.py │ │ │ │ ├── thinking_mixin.py │ │ │ │ ├── token_usage.py │ │ │ │ ├── ttc_strategy.py │ │ │ │ └── user_info.py │ │ │ ├── embedder/ │ │ │ │ ├── __init__.py │ │ │ │ ├── azure_openai_embedder.py │ │ │ │ ├── huggingface_embedder.py │ │ │ │ ├── nim_embedder.py │ │ │ │ ├── openai_embedder.py │ │ │ │ └── register.py │ │ │ ├── eval/ │ │ │ │ └── __init__.py │ │ │ ├── experimental/ │ │ │ │ ├── __init__.py │ │ │ │ ├── decorators/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── experimental_warning_decorator.py │ │ │ │ └── test_time_compute/ │ │ │ │ ├── __init__.py │ │ │ │ ├── editing/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── iterative_plan_refinement_editor.py │ │ │ │ │ ├── llm_as_a_judge_editor.py │ │ │ │ │ └── motivation_aware_summarization.py │ │ │ │ ├── functions/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── execute_score_select_function.py │ │ │ │ │ ├── multi_llm_judge_function.py │ │ │ │ │ ├── plan_select_execute_function.py │ │ │ │ │ ├── ttc_tool_orchestration_function.py │ │ │ │ │ └── ttc_tool_wrapper_function.py │ │ │ │ ├── models/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── editor_config.py │ │ │ │ │ ├── scoring_config.py │ │ │ │ │ ├── search_config.py │ │ │ │ │ ├── selection_config.py │ │ │ │ │ ├── stage_enums.py │ │ │ │ │ ├── strategy_base.py │ │ │ │ │ ├── tool_use_config.py │ │ │ │ │ └── ttc_item.py │ │ │ │ ├── register.py │ │ │ │ ├── scoring/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── llm_based_agent_scorer.py │ │ │ │ │ ├── llm_based_plan_scorer.py │ │ │ │ │ └── motivation_aware_scorer.py │ │ │ │ ├── search/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── multi_llm_generation.py │ │ │ │ │ ├── multi_llm_planner.py │ │ │ │ │ ├── multi_query_retrieval_search.py │ │ │ │ │ └── single_shot_multi_plan_planner.py │ │ │ │ └── selection/ │ │ │ │ ├── __init__.py │ │ │ │ ├── best_of_n_selector.py │ │ │ │ ├── llm_based_agent_output_selector.py │ │ │ │ ├── llm_based_output_merging_selector.py │ │ │ │ ├── llm_based_plan_selector.py │ │ │ │ ├── llm_judge_selection.py │ │ │ │ └── threshold_selector.py │ │ │ ├── finetuning/ │ │ │ │ ├── __init__.py │ │ │ │ ├── finetuning_runtime.py │ │ │ │ ├── interfaces/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── finetuning_runner.py │ │ │ │ │ ├── trainer_adapter.py │ │ │ │ │ └── trajectory_builder.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ └── parsers/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base_parser.py │ │ │ │ └── common.py │ │ │ ├── front_ends/ │ │ │ │ ├── __init__.py │ │ │ │ ├── console/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── authentication_flow_handler.py │ │ │ │ │ ├── console_front_end_config.py │ │ │ │ │ ├── console_front_end_plugin.py │ │ │ │ │ └── register.py │ │ │ │ ├── cron/ │ │ │ │ │ └── __init__.py │ │ │ │ ├── fastapi/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── async_jobs/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── async_job.py │ │ │ │ │ │ ├── dask_client_mixin.py │ │ │ │ │ │ └── job_store.py │ │ │ │ │ ├── auth_flow_handlers/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── http_flow_handler.py │ │ │ │ │ │ └── websocket_flow_handler.py │ │ │ │ │ ├── execution_store.py │ │ │ │ │ ├── fastapi_front_end_config.py │ │ │ │ │ ├── fastapi_front_end_controller.py │ │ │ │ │ ├── fastapi_front_end_plugin.py │ │ │ │ │ ├── fastapi_front_end_plugin_worker.py │ │ │ │ │ ├── html_snippets/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ └── auth_code_grant_success.py │ │ │ │ │ ├── http_interactive_runner.py │ │ │ │ │ ├── intermediate_steps_subscriber.py │ │ │ │ │ ├── main.py │ │ │ │ │ ├── message_handler.py │ │ │ │ │ ├── message_validator.py │ │ │ │ │ ├── register.py │ │ │ │ │ ├── response_helpers.py │ │ │ │ │ ├── routes/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── async_generation.py │ │ │ │ │ │ ├── auth.py │ │ │ │ │ │ ├── chat.py │ │ │ │ │ │ ├── common_utils.py │ │ │ │ │ │ ├── execution.py │ │ │ │ │ │ ├── generate.py │ │ │ │ │ │ ├── health.py │ │ │ │ │ │ ├── monitor.py │ │ │ │ │ │ ├── static.py │ │ │ │ │ │ ├── v1_chat_completions.py │ │ │ │ │ │ └── websocket.py │ │ │ │ │ ├── step_adaptor.py │ │ │ │ │ └── utils.py │ │ │ │ ├── register.py │ │ │ │ └── simple_base/ │ │ │ │ ├── __init__.py │ │ │ │ └── simple_front_end_plugin_base.py │ │ │ ├── llm/ │ │ │ │ ├── __init__.py │ │ │ │ ├── aws_bedrock_llm.py │ │ │ │ ├── azure_openai_llm.py │ │ │ │ ├── dynamo_llm.py │ │ │ │ ├── huggingface_inference_llm.py │ │ │ │ ├── huggingface_llm.py │ │ │ │ ├── litellm_llm.py │ │ │ │ ├── nim_llm.py │ │ │ │ ├── oci_llm.py │ │ │ │ ├── openai_llm.py │ │ │ │ ├── prediction_context.py │ │ │ │ ├── register.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ ├── constants.py │ │ │ │ ├── env_config_value.py │ │ │ │ ├── error.py │ │ │ │ ├── hooks.py │ │ │ │ ├── http_client.py │ │ │ │ └── thinking.py │ │ │ ├── memory/ │ │ │ │ ├── __init__.py │ │ │ │ ├── interfaces.py │ │ │ │ └── models.py │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ ├── middleware/ │ │ │ │ ├── __init__.py │ │ │ │ ├── cache/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── cache_middleware.py │ │ │ │ │ ├── cache_middleware_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── common.py │ │ │ │ ├── defense/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── defense_middleware.py │ │ │ │ │ ├── defense_middleware_content_guard.py │ │ │ │ │ ├── defense_middleware_data_models.py │ │ │ │ │ ├── defense_middleware_output_verifier.py │ │ │ │ │ ├── defense_middleware_pii.py │ │ │ │ │ ├── defense_middleware_pre_tool_verifier.py │ │ │ │ │ └── register.py │ │ │ │ ├── dynamic/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── dynamic_function_middleware.py │ │ │ │ │ ├── dynamic_middleware_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── function_middleware.py │ │ │ │ ├── logging/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── logging_middleware.py │ │ │ │ │ ├── logging_middleware_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── middleware.py │ │ │ │ ├── red_teaming/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── red_teaming_middleware.py │ │ │ │ │ ├── red_teaming_middleware_config.py │ │ │ │ │ └── register.py │ │ │ │ ├── register.py │ │ │ │ ├── timeout/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── register.py │ │ │ │ │ ├── timeout_middleware.py │ │ │ │ │ └── timeout_middleware_config.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ └── workflow_inventory.py │ │ │ ├── object_store/ │ │ │ │ ├── __init__.py │ │ │ │ ├── in_memory_object_store.py │ │ │ │ ├── interfaces.py │ │ │ │ ├── models.py │ │ │ │ └── register.py │ │ │ ├── observability/ │ │ │ │ ├── __init__.py │ │ │ │ ├── exporter/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── base_exporter.py │ │ │ │ │ ├── exporter.py │ │ │ │ │ ├── file_exporter.py │ │ │ │ │ ├── processing_exporter.py │ │ │ │ │ ├── raw_exporter.py │ │ │ │ │ └── span_exporter.py │ │ │ │ ├── exporter_manager.py │ │ │ │ ├── mixin/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── batch_config_mixin.py │ │ │ │ │ ├── collector_config_mixin.py │ │ │ │ │ ├── file_mixin.py │ │ │ │ │ ├── file_mode.py │ │ │ │ │ ├── redaction_config_mixin.py │ │ │ │ │ ├── resource_conflict_mixin.py │ │ │ │ │ ├── serialize_mixin.py │ │ │ │ │ ├── tagging_config_mixin.py │ │ │ │ │ └── type_introspection_mixin.py │ │ │ │ ├── processor/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── batching_processor.py │ │ │ │ │ ├── callback_processor.py │ │ │ │ │ ├── falsy_batch_filter_processor.py │ │ │ │ │ ├── intermediate_step_serializer.py │ │ │ │ │ ├── processor.py │ │ │ │ │ ├── processor_factory.py │ │ │ │ │ ├── redaction/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── contextual_redaction_processor.py │ │ │ │ │ │ ├── contextual_span_redaction_processor.py │ │ │ │ │ │ ├── redaction_processor.py │ │ │ │ │ │ └── span_header_redaction_processor.py │ │ │ │ │ └── span_tagging_processor.py │ │ │ │ ├── register.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ ├── dict_utils.py │ │ │ │ ├── time_utils.py │ │ │ │ └── tracing_utils.py │ │ │ ├── parameter_optimization/ │ │ │ │ ├── __init__.py │ │ │ │ └── eval_runtime_loader.py │ │ │ ├── plugins/ │ │ │ │ └── .namespace │ │ │ ├── profiler/ │ │ │ │ ├── __init__.py │ │ │ │ ├── callbacks/ │ │ │ │ │ └── __init__.py │ │ │ │ ├── forecasting/ │ │ │ │ │ └── __init__.py │ │ │ │ ├── inference_optimization/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── bottleneck_analysis/ │ │ │ │ │ │ └── __init__.py │ │ │ │ │ └── experimental/ │ │ │ │ │ └── __init__.py │ │ │ │ ├── parameter_optimization/ │ │ │ │ │ └── optimizer_callbacks.py │ │ │ │ └── prediction_trie/ │ │ │ │ ├── __init__.py │ │ │ │ ├── data_models.py │ │ │ │ ├── metrics_accumulator.py │ │ │ │ ├── serialization.py │ │ │ │ ├── trie_builder.py │ │ │ │ └── trie_lookup.py │ │ │ ├── registry_handlers/ │ │ │ │ ├── __init__.py │ │ │ │ ├── local/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── local_handler.py │ │ │ │ │ └── register_local.py │ │ │ │ ├── metadata_factory.py │ │ │ │ ├── package_utils.py │ │ │ │ ├── pypi/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── pypi_handler.py │ │ │ │ │ └── register_pypi.py │ │ │ │ ├── register.py │ │ │ │ ├── registry_handler_base.py │ │ │ │ ├── rest/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── register_rest.py │ │ │ │ │ └── rest_handler.py │ │ │ │ └── schemas/ │ │ │ │ ├── __init__.py │ │ │ │ ├── headers.py │ │ │ │ ├── package.py │ │ │ │ ├── publish.py │ │ │ │ ├── pull.py │ │ │ │ ├── remove.py │ │ │ │ ├── search.py │ │ │ │ └── status.py │ │ │ ├── retriever/ │ │ │ │ ├── __init__.py │ │ │ │ ├── interface.py │ │ │ │ ├── milvus/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── register.py │ │ │ │ │ └── retriever.py │ │ │ │ ├── models.py │ │ │ │ ├── nemo_retriever/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── register.py │ │ │ │ │ └── retriever.py │ │ │ │ └── register.py │ │ │ ├── runtime/ │ │ │ │ ├── __init__.py │ │ │ │ ├── loader.py │ │ │ │ ├── metrics.py │ │ │ │ ├── runner.py │ │ │ │ ├── session.py │ │ │ │ ├── user_manager.py │ │ │ │ └── user_metadata.py │ │ │ ├── settings/ │ │ │ │ ├── __init__.py │ │ │ │ └── global_settings.py │ │ │ ├── test/ │ │ │ │ └── .namespace │ │ │ ├── tool/ │ │ │ │ ├── __init__.py │ │ │ │ ├── chat_completion.py │ │ │ │ ├── code_execution/ │ │ │ │ │ ├── README.md │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── code_sandbox.py │ │ │ │ │ ├── local_sandbox/ │ │ │ │ │ │ ├── .gitignore │ │ │ │ │ │ ├── Dockerfile.sandbox │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── local_sandbox_server.py │ │ │ │ │ │ ├── sandbox.requirements.txt │ │ │ │ │ │ └── start_local_sandbox.sh │ │ │ │ │ ├── register.py │ │ │ │ │ └── utils.py │ │ │ │ ├── datetime_tools.py │ │ │ │ ├── document_search.py │ │ │ │ ├── github_tools.py │ │ │ │ ├── memory_tools/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── add_memory_tool.py │ │ │ │ │ ├── delete_memory_tool.py │ │ │ │ │ └── get_memory_tool.py │ │ │ │ ├── nvidia_rag.py │ │ │ │ ├── register.py │ │ │ │ ├── retriever.py │ │ │ │ └── server_tools.py │ │ │ └── utils/ │ │ │ ├── __init__.py │ │ │ ├── atif_converter.py │ │ │ ├── atif_message_utils.py │ │ │ ├── callable_utils.py │ │ │ ├── data_models/ │ │ │ │ ├── __init__.py │ │ │ │ └── schema_validator.py │ │ │ ├── debugging_utils.py │ │ │ ├── decorators.py │ │ │ ├── dump_distro_mapping.py │ │ │ ├── exception_handlers/ │ │ │ │ ├── __init__.py │ │ │ │ ├── automatic_retries.py │ │ │ │ └── schemas.py │ │ │ ├── io/ │ │ │ │ ├── __init__.py │ │ │ │ ├── model_processing.py │ │ │ │ ├── supress_logs.py │ │ │ │ └── yaml_tools.py │ │ │ ├── log_levels.py │ │ │ ├── log_utils.py │ │ │ ├── metadata_utils.py │ │ │ ├── optional_imports.py │ │ │ ├── producer_consumer_queue.py │ │ │ ├── reactive/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── observable_base.py │ │ │ │ │ ├── observer_base.py │ │ │ │ │ └── subject_base.py │ │ │ │ ├── observable.py │ │ │ │ ├── observer.py │ │ │ │ ├── subject.py │ │ │ │ └── subscription.py │ │ │ ├── responses_api.py │ │ │ ├── settings/ │ │ │ │ ├── __init__.py │ │ │ │ └── global_settings.py │ │ │ ├── string_utils.py │ │ │ ├── type_converter.py │ │ │ ├── type_utils.py │ │ │ └── url_utils.py │ │ └── tests/ │ │ ├── eval/ │ │ │ └── test_eval_callbacks.py │ │ ├── nat/ │ │ │ ├── authentication/ │ │ │ │ ├── test_api_key_auth.py │ │ │ │ ├── test_bearer_token_validator.py │ │ │ │ ├── test_data_models.py │ │ │ │ ├── test_http_basic_auth_exchanger.py │ │ │ │ ├── test_oauth_exchanger.py │ │ │ │ └── test_oauth_resource_server_config.py │ │ │ ├── builder/ │ │ │ │ ├── test_builder.py │ │ │ │ ├── test_call_tracker_integration.py │ │ │ │ ├── test_component_utils.py │ │ │ │ ├── test_context.py │ │ │ │ ├── test_evaluator.py │ │ │ │ ├── test_function.py │ │ │ │ ├── test_function_group.py │ │ │ │ ├── test_function_info.py │ │ │ │ ├── test_function_path_stack.py │ │ │ │ ├── test_interactive.py │ │ │ │ ├── test_intermediate_step_manager.py │ │ │ │ └── test_per_user_builder.py │ │ │ ├── cli/ │ │ │ │ ├── cli_utils/ │ │ │ │ │ ├── test_config_override.py │ │ │ │ │ └── test_validation.py │ │ │ │ ├── commands/ │ │ │ │ │ ├── test_validate.py │ │ │ │ │ └── test_workflow_commands.py │ │ │ │ ├── test_plugin_loader.py │ │ │ │ ├── test_register_workflow.py │ │ │ │ └── test_type_registry.py │ │ │ ├── data_models/ │ │ │ │ ├── test_auth_payload.py │ │ │ │ ├── test_common.py │ │ │ │ ├── test_component_ref.py │ │ │ │ ├── test_config.py │ │ │ │ ├── test_gated_field_mixin.py │ │ │ │ ├── test_interactive_http.py │ │ │ │ ├── test_optimizable.py │ │ │ │ ├── test_optimizer_oracle_feedback.py │ │ │ │ ├── test_thinking_mixin.py │ │ │ │ └── test_user_info.py │ │ │ ├── experimental/ │ │ │ │ ├── test_decorator.py │ │ │ │ └── test_test_time_compute.py │ │ │ ├── finetuning/ │ │ │ │ ├── __init__.py │ │ │ │ ├── interfaces/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── test_trainer.py │ │ │ │ │ ├── test_trainer_adapter.py │ │ │ │ │ └── test_trajectory_builder.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ └── parsers/ │ │ │ │ ├── __init__.py │ │ │ │ └── test_base_parser.py │ │ │ ├── front_ends/ │ │ │ │ ├── auth_flow_handlers/ │ │ │ │ │ ├── mock_oauth2_server.py │ │ │ │ │ ├── test_console_flow_handler.py │ │ │ │ │ ├── test_http_flow_handler.py │ │ │ │ │ ├── test_oauth_security_tests.py │ │ │ │ │ └── test_websocket_flow_handler.py │ │ │ │ ├── fastapi/ │ │ │ │ │ ├── conftest.py │ │ │ │ │ ├── test_execution_store.py │ │ │ │ │ ├── test_fastapi_front_end_config.py │ │ │ │ │ ├── test_fastapi_front_end_plugin.py │ │ │ │ │ ├── test_job_store.py │ │ │ │ │ ├── test_openai_compatibility.py │ │ │ │ │ ├── test_per_user_fastapi_integration.py │ │ │ │ │ └── test_step_adaptor.py │ │ │ │ └── test_message_validator.py │ │ │ ├── llm/ │ │ │ │ ├── test_dynamic_prediction_hook.py │ │ │ │ ├── test_dynamo_llm.py │ │ │ │ ├── test_dynamo_prediction_trie.py │ │ │ │ ├── test_oci_llm.py │ │ │ │ ├── test_prediction_context.py │ │ │ │ ├── test_runtime_prediction_e2e.py │ │ │ │ └── utils/ │ │ │ │ ├── __init__.py │ │ │ │ ├── _llm_configs.py │ │ │ │ ├── test_hooks.py │ │ │ │ ├── test_http_client.py │ │ │ │ └── test_thinking.py │ │ │ ├── middleware/ │ │ │ │ ├── test_cache_middleware.py │ │ │ │ ├── test_defense_middleware.py │ │ │ │ ├── test_defense_middleware_content_guard.py │ │ │ │ ├── test_defense_middleware_output_verifier.py │ │ │ │ ├── test_defense_middleware_pii.py │ │ │ │ ├── test_defense_middleware_pre_tool_verifier.py │ │ │ │ ├── test_dynamic_middleware.py │ │ │ │ ├── test_middleware_components.py │ │ │ │ ├── test_red_teaming_middleware.py │ │ │ │ └── test_timeout_middleware.py │ │ │ ├── object_store/ │ │ │ │ └── test_in_memory_object_store.py │ │ │ ├── observability/ │ │ │ │ ├── exporter/ │ │ │ │ │ ├── test_base_exporter.py │ │ │ │ │ ├── test_exporter.py │ │ │ │ │ ├── test_file_exporter.py │ │ │ │ │ ├── test_processing_exporter.py │ │ │ │ │ ├── test_raw_exporter.py │ │ │ │ │ └── test_span_exporter.py │ │ │ │ ├── mixin/ │ │ │ │ │ ├── test_file_mixin.py │ │ │ │ │ ├── test_serialize_mixin.py │ │ │ │ │ └── test_type_introspection_mixin.py │ │ │ │ ├── processor/ │ │ │ │ │ ├── redaction/ │ │ │ │ │ │ ├── test_contextual_redaction_processor.py │ │ │ │ │ │ ├── test_contextual_span_redaction_processor.py │ │ │ │ │ │ ├── test_redaction_processor.py │ │ │ │ │ │ └── test_span_header_redaction_processor.py │ │ │ │ │ ├── test_batching_processor.py │ │ │ │ │ ├── test_intermediate_step_serializer.py │ │ │ │ │ ├── test_processor.py │ │ │ │ │ └── test_span_tagging_processor.py │ │ │ │ ├── test_exporter_manager.py │ │ │ │ └── utils/ │ │ │ │ ├── test_dict_utils.py │ │ │ │ └── test_time_utils.py │ │ │ ├── reactive/ │ │ │ │ ├── test_observable.py │ │ │ │ ├── test_observer.py │ │ │ │ ├── test_subject.py │ │ │ │ └── test_subscription.py │ │ │ ├── registry_handlers/ │ │ │ │ ├── test_local_handler.py │ │ │ │ ├── test_metadata_factory.py │ │ │ │ ├── test_package_utils.py │ │ │ │ ├── test_pypi_handler.py │ │ │ │ └── test_rest_handler.py │ │ │ ├── retriever/ │ │ │ │ ├── test_configs.py │ │ │ │ ├── test_models.py │ │ │ │ └── test_retrievers.py │ │ │ ├── runtime/ │ │ │ │ ├── test_runner.py │ │ │ │ ├── test_runner_trace_ids.py │ │ │ │ ├── test_session_manager.py │ │ │ │ ├── test_session_traceparent.py │ │ │ │ ├── test_user_manager.py │ │ │ │ └── test_user_metadata.py │ │ │ ├── server/ │ │ │ │ ├── config.yml │ │ │ │ ├── legacy_server_config.yml │ │ │ │ ├── server_config.yml │ │ │ │ └── test_unified_api_server.py │ │ │ ├── test_eval_deprecation_shim.py │ │ │ ├── tools/ │ │ │ │ ├── test_chat_completion_error_response.py │ │ │ │ ├── test_code_execution.py │ │ │ │ ├── test_code_execution_sandbox.py │ │ │ │ ├── test_datetime_tools.py │ │ │ │ ├── test_retriever.py │ │ │ │ └── test_tool_test_runner.py │ │ │ └── utils/ │ │ │ ├── test_atif_converter.py │ │ │ ├── test_converter.py │ │ │ ├── test_decorators.py │ │ │ ├── test_metadata_utils.py │ │ │ ├── test_optional_imports.py │ │ │ ├── test_retry_wrapper.py │ │ │ ├── test_run_workflow.py │ │ │ ├── test_string_utils.py │ │ │ ├── test_type_utils.py │ │ │ ├── test_url_utils.py │ │ │ └── test_yaml_tools.py │ │ ├── profiler/ │ │ │ └── parameter_optimization/ │ │ │ └── test_optimizer_callbacks.py │ │ └── test_conftest.py │ ├── nvidia_nat_crewai/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── crewai/ │ │ │ ├── __init__.py │ │ │ ├── crewai_callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_crewai_callback_handler.py │ │ ├── test_crewai_choice_extraction.py │ │ └── test_llm_crewai.py │ ├── nvidia_nat_data_flywheel/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── data_flywheel/ │ │ │ └── observability/ │ │ │ ├── __init__.py │ │ │ ├── exporter/ │ │ │ │ ├── __init__.py │ │ │ │ ├── dfw_elasticsearch_exporter.py │ │ │ │ └── dfw_exporter.py │ │ │ ├── mixin/ │ │ │ │ ├── __init__.py │ │ │ │ └── elasticsearch_mixin.py │ │ │ ├── processor/ │ │ │ │ ├── __init__.py │ │ │ │ ├── dfw_record_processor.py │ │ │ │ └── trace_conversion/ │ │ │ │ ├── __init__.py │ │ │ │ ├── adapter/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── elasticsearch/ │ │ │ │ │ │ ├── __init__.py │ │ │ │ │ │ ├── nim_converter.py │ │ │ │ │ │ └── openai_converter.py │ │ │ │ │ └── register.py │ │ │ │ ├── span_extractor.py │ │ │ │ ├── span_to_dfw.py │ │ │ │ └── trace_adapter_registry.py │ │ │ ├── register.py │ │ │ ├── schema/ │ │ │ │ ├── __init__.py │ │ │ │ ├── provider/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── nim_trace_source.py │ │ │ │ │ ├── openai_message.py │ │ │ │ │ └── openai_trace_source.py │ │ │ │ ├── register.py │ │ │ │ ├── schema_registry.py │ │ │ │ ├── sink/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── elasticsearch/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── contract_version.py │ │ │ │ │ └── dfw_es_record.py │ │ │ │ ├── trace_container.py │ │ │ │ └── trace_source_base.py │ │ │ └── utils/ │ │ │ ├── __init__.py │ │ │ └── deserialize.py │ │ └── tests/ │ │ └── observability/ │ │ ├── exporter/ │ │ │ ├── test_dfw_elasticsearch_exporter.py │ │ │ └── test_dfw_exporter.py │ │ ├── mixin/ │ │ │ └── test_elasticsearch_mixin.py │ │ ├── processor/ │ │ │ ├── test_dfw_record_processor.py │ │ │ └── trace_conversion/ │ │ │ ├── adapter/ │ │ │ │ └── elasticsearch/ │ │ │ │ └── test_openai_converter.py │ │ │ ├── test_span_extractor.py │ │ │ ├── test_span_to_dfw_record.py │ │ │ └── test_trace_adapter_registry.py │ │ ├── schema/ │ │ │ ├── test_schema_registry.py │ │ │ └── test_trace_container.py │ │ └── utils/ │ │ └── test_deserialize.py │ ├── nvidia_nat_eval/ │ │ ├── pyproject.toml │ │ ├── scripts/ │ │ │ ├── compare_eval_runs.py │ │ │ ├── print_atif_function_tree.py │ │ │ └── print_ist_function_tree.py │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── eval/ │ │ │ ├── __init__.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── commands.py │ │ │ │ └── evaluate.py │ │ │ ├── data_models/ │ │ │ │ ├── __init__.py │ │ │ │ └── evaluator_io.py │ │ │ ├── dataset_handler/ │ │ │ │ ├── __init__.py │ │ │ │ ├── dataset_downloader.py │ │ │ │ ├── dataset_filter.py │ │ │ │ └── dataset_handler.py │ │ │ ├── dataset_loader/ │ │ │ │ ├── __init__.py │ │ │ │ └── register.py │ │ │ ├── eval_callbacks.py │ │ │ ├── evaluator/ │ │ │ │ ├── __init__.py │ │ │ │ ├── atif_base_evaluator.py │ │ │ │ ├── atif_evaluator.py │ │ │ │ ├── base_evaluator.py │ │ │ │ └── evaluator_model.py │ │ │ ├── exporters/ │ │ │ │ ├── __init__.py │ │ │ │ └── file_eval_callback.py │ │ │ ├── fastapi/ │ │ │ │ ├── __init__.py │ │ │ │ └── routes.py │ │ │ ├── register.py │ │ │ ├── runners/ │ │ │ │ ├── __init__.py │ │ │ │ ├── config.py │ │ │ │ └── multi_eval_runner.py │ │ │ ├── runtime/ │ │ │ │ ├── __init__.py │ │ │ │ ├── atif_adapter.py │ │ │ │ ├── builder.py │ │ │ │ ├── eval_harness.py │ │ │ │ ├── evaluate.py │ │ │ │ ├── llm_validator.py │ │ │ │ └── remote_workflow.py │ │ │ └── utils/ │ │ │ ├── __init__.py │ │ │ ├── intermediate_step_adapter.py │ │ │ ├── output_uploader.py │ │ │ └── tqdm_position_registry.py │ │ └── tests/ │ │ ├── eval/ │ │ │ ├── conftest.py │ │ │ ├── dataset_handler/ │ │ │ │ ├── test_dataset_downloader.py │ │ │ │ ├── test_dataset_filter.py │ │ │ │ └── test_dataset_handler.py │ │ │ ├── dataset_loader/ │ │ │ │ ├── __init__.py │ │ │ │ └── test_dataset_loader_registration.py │ │ │ ├── evaluator/ │ │ │ │ ├── test_atif_base_evaluator.py │ │ │ │ └── test_custom_evaluator.py │ │ │ ├── resilience/ │ │ │ │ └── __init__.py │ │ │ ├── runners/ │ │ │ │ ├── __init__.py │ │ │ │ └── test_multi_eval_runner.py │ │ │ ├── test_atif_adapter.py │ │ │ ├── test_dependency_guidance.py │ │ │ ├── test_eval_callback_builder.py │ │ │ ├── test_eval_harness.py │ │ │ ├── test_evaluate.py │ │ │ ├── test_evaluate_callbacks.py │ │ │ ├── test_file_eval_callback.py │ │ │ ├── test_intermediate_step_adapter.py │ │ │ ├── test_llm_retry.py │ │ │ ├── test_llm_validator.py │ │ │ ├── test_remote_evaluate.py │ │ │ ├── test_workflow_eval_builder.py │ │ │ └── utils/ │ │ │ ├── test_output_uploader.py │ │ │ └── test_tqdm_position_registry_extra.py │ │ └── fastapi/ │ │ └── test_evaluate_endpoints.py │ ├── nvidia_nat_fastmcp/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── fastmcp/ │ │ │ ├── __init__.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── commands.py │ │ │ │ └── utils.py │ │ │ └── server/ │ │ │ ├── __init__.py │ │ │ ├── front_end_config.py │ │ │ ├── front_end_plugin.py │ │ │ ├── front_end_plugin_worker.py │ │ │ ├── register_frontend.py │ │ │ └── tool_converter.py │ │ └── tests/ │ │ └── test_fastmcp.py │ ├── nvidia_nat_langchain/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── langchain/ │ │ │ ├── __init__.py │ │ │ ├── agent/ │ │ │ │ ├── __init__.py │ │ │ │ ├── auto_memory_wrapper/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── agent.py │ │ │ │ │ ├── register.py │ │ │ │ │ └── state.py │ │ │ │ ├── base.py │ │ │ │ ├── dual_node.py │ │ │ │ ├── prompt_optimizer/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── prompt.py │ │ │ │ │ └── register.py │ │ │ │ ├── react_agent/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── agent.py │ │ │ │ │ ├── output_parser.py │ │ │ │ │ ├── prompt.py │ │ │ │ │ ├── register.py │ │ │ │ │ └── register_per_user_agent.py │ │ │ │ ├── reasoning_agent/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── reasoning_agent.py │ │ │ │ ├── register.py │ │ │ │ ├── responses_api_agent/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ └── register.py │ │ │ │ ├── rewoo_agent/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── agent.py │ │ │ │ │ ├── prompt.py │ │ │ │ │ └── register.py │ │ │ │ └── tool_calling_agent/ │ │ │ │ ├── __init__.py │ │ │ │ ├── agent.py │ │ │ │ └── register.py │ │ │ ├── callback_handler.py │ │ │ ├── control_flow/ │ │ │ │ ├── __init__.py │ │ │ │ ├── parallel_executor.py │ │ │ │ ├── register.py │ │ │ │ ├── router_agent/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── agent.py │ │ │ │ │ ├── prompt.py │ │ │ │ │ └── register.py │ │ │ │ └── sequential_executor.py │ │ │ ├── dataset_loader/ │ │ │ │ ├── __init__.py │ │ │ │ ├── langsmith.py │ │ │ │ └── register.py │ │ │ ├── embedder.py │ │ │ ├── eval/ │ │ │ │ ├── __init__.py │ │ │ │ ├── langsmith_custom_evaluator.py │ │ │ │ ├── langsmith_evaluator.py │ │ │ │ ├── langsmith_evaluator_adapter.py │ │ │ │ ├── langsmith_judge.py │ │ │ │ ├── register.py │ │ │ │ ├── trajectory_evaluator.py │ │ │ │ ├── tunable_rag_evaluator.py │ │ │ │ └── utils.py │ │ │ ├── langchain_parser.py │ │ │ ├── langgraph_workflow.py │ │ │ ├── langsmith/ │ │ │ │ ├── __init__.py │ │ │ │ ├── langsmith_evaluation_callback.py │ │ │ │ ├── langsmith_optimization_callback.py │ │ │ │ └── register.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ ├── retriever.py │ │ │ ├── tool_wrapper.py │ │ │ └── tools/ │ │ │ ├── __init__.py │ │ │ ├── code_generation_tool.py │ │ │ ├── exa_internet_search.py │ │ │ ├── register.py │ │ │ ├── tavily_internet_search.py │ │ │ └── wikipedia_search.py │ │ └── tests/ │ │ ├── agent/ │ │ │ ├── prompt_optimizer/ │ │ │ │ ├── test_prompt_optimizer_register.py │ │ │ │ └── test_prompt_templates.py │ │ │ ├── test_auto_memory_wrapper.py │ │ │ ├── test_base.py │ │ │ ├── test_react.py │ │ │ ├── test_reasoning_agent.py │ │ │ ├── test_responses_api_agent.py │ │ │ ├── test_rewoo.py │ │ │ ├── test_router_agent.py │ │ │ └── test_tool_calling.py │ │ ├── control_flow/ │ │ │ ├── test_parallel_executor.py │ │ │ └── test_sequential_executor.py │ │ ├── dataset_loader/ │ │ │ └── test_langsmith_loader.py │ │ ├── eval/ │ │ │ ├── __init__.py │ │ │ ├── conftest.py │ │ │ ├── test_langsmith_custom_evaluator.py │ │ │ ├── test_langsmith_evaluator.py │ │ │ ├── test_langsmith_judge.py │ │ │ ├── test_trajectory_evaluate.py │ │ │ ├── test_tunable_rag_evaluate.py │ │ │ └── test_utils.py │ │ ├── langsmith/ │ │ │ ├── test_langsmith_callback.py │ │ │ ├── test_langsmith_integration.py │ │ │ └── test_otel_matching.py │ │ ├── test_dynamo_trie_loading.py │ │ ├── test_embedder_langchain.py │ │ ├── test_exa_internet_search.py │ │ ├── test_finetuning_parser.py │ │ ├── test_langchain_agents.py │ │ ├── test_langchain_callback_handler.py │ │ ├── test_langchain_parser.py │ │ ├── test_langgraph_workflow.py │ │ ├── test_llm_langchain.py │ │ └── test_tavily_internet_search.py │ ├── nvidia_nat_llama_index/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── llama_index/ │ │ │ ├── __init__.py │ │ │ ├── callback_handler.py │ │ │ ├── embedder.py │ │ │ ├── llama_index_parser.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_embedder_llama_index.py │ │ ├── test_llama_index_agents.py │ │ ├── test_llama_index_callback_handler.py │ │ ├── test_llama_index_parser.py │ │ └── test_llm_llama_index.py │ ├── nvidia_nat_mcp/ │ │ ├── pyproject.toml │ │ ├── scripts/ │ │ │ ├── check_mcp_auth_cookie.py │ │ │ └── check_mcp_auth_jwt.py │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── mcp/ │ │ │ ├── __init__.py │ │ │ ├── auth/ │ │ │ │ ├── __init__.py │ │ │ │ ├── auth_flow_handler.py │ │ │ │ ├── auth_provider.py │ │ │ │ ├── auth_provider_config.py │ │ │ │ ├── register.py │ │ │ │ └── service_account/ │ │ │ │ ├── __init__.py │ │ │ │ ├── provider.py │ │ │ │ ├── provider_config.py │ │ │ │ └── token_client.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ └── commands.py │ │ │ ├── client/ │ │ │ │ ├── __init__.py │ │ │ │ ├── client_base.py │ │ │ │ ├── client_config.py │ │ │ │ ├── client_impl.py │ │ │ │ └── fastapi_routes.py │ │ │ ├── exception_handler.py │ │ │ ├── exceptions.py │ │ │ ├── register.py │ │ │ ├── server/ │ │ │ │ ├── __init__.py │ │ │ │ ├── front_end_config.py │ │ │ │ ├── front_end_plugin.py │ │ │ │ ├── front_end_plugin_worker.py │ │ │ │ ├── introspection_token_verifier.py │ │ │ │ ├── memory_profiler.py │ │ │ │ ├── register_frontend.py │ │ │ │ └── tool_converter.py │ │ │ └── utils.py │ │ └── tests/ │ │ ├── cli/ │ │ │ └── test_mcp_cli.py │ │ ├── client/ │ │ │ ├── test_mcp_auth_provider.py │ │ │ ├── test_mcp_auth_timeout.py │ │ │ ├── test_mcp_client_base.py │ │ │ ├── test_mcp_client_impl.py │ │ │ ├── test_mcp_schema.py │ │ │ ├── test_mcp_service_account.py │ │ │ ├── test_mcp_session_management.py │ │ │ └── test_mcp_token_storage.py │ │ └── server/ │ │ ├── test_add_root_level_routes.py │ │ ├── test_main.py │ │ ├── test_mcp_client_endpoint.py │ │ ├── test_mcp_custom_routes.py │ │ ├── test_mcp_debug_routes.py │ │ ├── test_mcp_front_end_config.py │ │ ├── test_mcp_front_end_plugin.py │ │ ├── test_mcp_frontend_register.py │ │ ├── test_memory_profiler.py │ │ └── test_tool_converter.py │ ├── nvidia_nat_mem0ai/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── mem0ai/ │ │ │ ├── __init__.py │ │ │ ├── mem0_editor.py │ │ │ ├── memory.py │ │ │ └── register.py │ │ └── tests/ │ │ └── test_mem0_editor.py │ ├── nvidia_nat_memmachine/ │ │ ├── README.md │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ ├── __init__.py │ │ │ └── memmachine/ │ │ │ ├── __init__.py │ │ │ ├── memmachine_editor.py │ │ │ ├── memory.py │ │ │ └── register.py │ │ └── tests/ │ │ ├── test_add_and_retrieve.py │ │ ├── test_memmachine_api_calls.py │ │ ├── test_memmachine_editor.py │ │ ├── test_memmachine_integration.py │ │ └── test_memory.py │ ├── nvidia_nat_mysql/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ └── plugins/ │ │ │ └── mysql/ │ │ │ ├── __init__.py │ │ │ ├── mysql_object_store.py │ │ │ ├── object_store.py │ │ │ └── register.py │ │ └── tests/ │ │ └── test_mysql_object_store.py │ ├── nvidia_nat_nemo_customizer/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── customizer/ │ │ │ ├── __init__.py │ │ │ ├── dpo/ │ │ │ │ ├── __init__.py │ │ │ │ ├── config.py │ │ │ │ ├── register.py │ │ │ │ ├── trainer.py │ │ │ │ ├── trainer_adapter.py │ │ │ │ └── trajectory_builder.py │ │ │ └── register.py │ │ └── tests/ │ │ ├── conftest.py │ │ ├── test_dpo_config.py │ │ ├── test_dpo_trajectory_builder.py │ │ └── test_nemo_customizer.py │ ├── nvidia_nat_openpipe_art/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── openpipe/ │ │ │ ├── __init__.py │ │ │ ├── config.py │ │ │ ├── register.py │ │ │ ├── trainer.py │ │ │ ├── trainer_adapter.py │ │ │ └── trajectory_builder.py │ │ └── tests/ │ │ ├── __init__.py │ │ ├── conftest.py │ │ ├── test_trainer.py │ │ ├── test_trainer_adapter.py │ │ └── test_trajectory_builder.py │ ├── nvidia_nat_opentelemetry/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── opentelemetry/ │ │ │ ├── __init__.py │ │ │ ├── mixin/ │ │ │ │ ├── __init__.py │ │ │ │ └── otlp_span_exporter_mixin.py │ │ │ ├── otel_span.py │ │ │ ├── otel_span_exporter.py │ │ │ ├── otlp_span_adapter_exporter.py │ │ │ ├── otlp_span_redaction_adapter_exporter.py │ │ │ ├── register.py │ │ │ └── span_converter.py │ │ └── tests/ │ │ └── observability/ │ │ ├── test_otel_span_ids.py │ │ ├── test_otlp_span_adapter_exporter.py │ │ ├── test_otlp_span_adapter_integration.py │ │ └── test_otlp_span_redaction_adapter_exporter.py │ ├── nvidia_nat_phoenix/ │ │ ├── pyproject.toml │ │ └── src/ │ │ └── nat/ │ │ ├── meta/ │ │ │ └── pypi.md │ │ └── plugins/ │ │ └── phoenix/ │ │ ├── __init__.py │ │ ├── mixin/ │ │ │ ├── __init__.py │ │ │ └── phoenix_mixin.py │ │ ├── phoenix_exporter.py │ │ ├── register.py │ │ └── scripts/ │ │ ├── __init__.py │ │ └── export_trajectory_to_phoenix/ │ │ ├── README.md │ │ ├── __init__.py │ │ ├── atif_trajectory_exporter.py │ │ ├── atif_trajectory_phoenix_exporter.py │ │ └── export_atif_trajectory_to_phoenix.py │ ├── nvidia_nat_profiler/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── profiler/ │ │ │ ├── __init__.py │ │ │ ├── calc/ │ │ │ │ ├── __init__.py │ │ │ │ ├── calc_runner.py │ │ │ │ ├── calculations.py │ │ │ │ ├── data_models.py │ │ │ │ └── plot.py │ │ │ ├── callbacks/ │ │ │ │ ├── __init__.py │ │ │ │ ├── base_callback_class.py │ │ │ │ └── token_usage_base_model.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── commands.py │ │ │ │ └── sizing.py │ │ │ ├── data_frame_row.py │ │ │ ├── data_models.py │ │ │ ├── decorators/ │ │ │ │ ├── __init__.py │ │ │ │ ├── framework_wrapper.py │ │ │ │ ├── function_tracking.py │ │ │ │ └── latency.py │ │ │ ├── forecasting/ │ │ │ │ ├── __init__.py │ │ │ │ ├── config.py │ │ │ │ ├── model_trainer.py │ │ │ │ └── models/ │ │ │ │ ├── __init__.py │ │ │ │ ├── forecasting_base_model.py │ │ │ │ ├── linear_model.py │ │ │ │ └── random_forest_regressor.py │ │ │ ├── inference_metrics_model.py │ │ │ ├── inference_optimization/ │ │ │ │ ├── __init__.py │ │ │ │ ├── bottleneck_analysis/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── nested_stack_analysis.py │ │ │ │ │ └── simple_stack_analysis.py │ │ │ │ ├── data_models.py │ │ │ │ ├── dynamo_metrics.py │ │ │ │ ├── experimental/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── concurrency_spike_analysis.py │ │ │ │ │ └── prefix_span_analysis.py │ │ │ │ ├── llm_metrics.py │ │ │ │ ├── prompt_caching.py │ │ │ │ ├── token_uniqueness.py │ │ │ │ └── workflow_runtimes.py │ │ │ ├── intermediate_property_adapter.py │ │ │ ├── profile_runner.py │ │ │ ├── register.py │ │ │ ├── runtime_evaluator/ │ │ │ │ ├── __init__.py │ │ │ │ ├── atif_evaluate.py │ │ │ │ ├── evaluate.py │ │ │ │ └── register.py │ │ │ └── utils.py │ │ └── tests/ │ │ ├── calc/ │ │ │ └── test_calc_runner.py │ │ ├── decorators/ │ │ │ ├── test_function_tracking.py │ │ │ └── test_latency.py │ │ ├── forecasting/ │ │ │ └── test_model_trainer.py │ │ ├── metrics/ │ │ │ ├── test_common_prefixes.py │ │ │ ├── test_concurrency_spike.py │ │ │ ├── test_llm_metrics.py │ │ │ ├── test_nested_bottleneck.py │ │ │ ├── test_prefix_span.py │ │ │ ├── test_simple_bottleneck.py │ │ │ └── test_token_uniqueness.py │ │ ├── profiler/ │ │ │ ├── prediction_trie/ │ │ │ │ ├── __init__.py │ │ │ │ ├── test_data_models.py │ │ │ │ ├── test_metrics_accumulator.py │ │ │ │ ├── test_serialization.py │ │ │ │ ├── test_trie_builder.py │ │ │ │ └── test_trie_lookup.py │ │ │ └── test_runtime_evaluator_atif.py │ │ ├── test_percentile_interval_computation.py │ │ ├── test_prediction_trie_e2e.py │ │ ├── test_prediction_trie_integration.py │ │ ├── test_producer_consumer_queue.py │ │ └── test_profiler.py │ ├── nvidia_nat_rag/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── rag/ │ │ │ ├── __init__.py │ │ │ ├── client.py │ │ │ ├── config.py │ │ │ ├── models.py │ │ │ └── register.py │ │ └── tests/ │ │ ├── test_rag_function.py │ │ ├── test_rag_models.py │ │ └── test_tools.py │ ├── nvidia_nat_ragaai/ │ │ ├── pyproject.toml │ │ └── src/ │ │ └── nat/ │ │ ├── meta/ │ │ │ └── pypi.md │ │ └── plugins/ │ │ └── ragaai/ │ │ ├── __init__.py │ │ ├── mixin/ │ │ │ ├── __init__.py │ │ │ └── ragaai_catalyst_mixin.py │ │ ├── ragaai_catalyst_exporter.py │ │ └── register.py │ ├── nvidia_nat_ragas/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── ragas/ │ │ │ ├── __init__.py │ │ │ ├── rag_evaluator/ │ │ │ │ ├── __init__.py │ │ │ │ ├── atif_evaluate.py │ │ │ │ ├── data_models.py │ │ │ │ ├── evaluate.py │ │ │ │ ├── llm_adapter.py │ │ │ │ ├── register.py │ │ │ │ └── utils.py │ │ │ └── register.py │ │ └── tests/ │ │ ├── conftest.py │ │ └── test_rag_evaluate.py │ ├── nvidia_nat_redis/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── redis/ │ │ │ ├── __init__.py │ │ │ ├── memory.py │ │ │ ├── object_store.py │ │ │ ├── redis_editor.py │ │ │ ├── redis_object_store.py │ │ │ ├── register.py │ │ │ └── schema.py │ │ └── tests/ │ │ ├── test_redis_editor.py │ │ └── test_redis_object_store.py │ ├── nvidia_nat_s3/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ └── plugins/ │ │ │ └── s3/ │ │ │ ├── __init__.py │ │ │ ├── object_store.py │ │ │ ├── register.py │ │ │ └── s3_object_store.py │ │ └── tests/ │ │ └── test_s3_object_store.py │ ├── nvidia_nat_security/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── security/ │ │ │ ├── __init__.py │ │ │ ├── cli/ │ │ │ │ ├── __init__.py │ │ │ │ ├── commands.py │ │ │ │ └── red_teaming/ │ │ │ │ ├── __init__.py │ │ │ │ ├── red_teaming.py │ │ │ │ └── red_teaming_utils.py │ │ │ ├── eval/ │ │ │ │ ├── __init__.py │ │ │ │ ├── red_teaming_evaluator/ │ │ │ │ │ ├── __init__.py │ │ │ │ │ ├── data_models.py │ │ │ │ │ ├── evaluate.py │ │ │ │ │ ├── filter_conditions.py │ │ │ │ │ └── register.py │ │ │ │ └── runners/ │ │ │ │ ├── __init__.py │ │ │ │ └── red_teaming_runner/ │ │ │ │ ├── __init__.py │ │ │ │ ├── config.py │ │ │ │ ├── report_utils.py │ │ │ │ └── runner.py │ │ │ └── register.py │ │ └── tests/ │ │ └── eval/ │ │ ├── red_teaming_evaluator/ │ │ │ ├── __init__.py │ │ │ ├── fake_chat_models.py │ │ │ ├── test_evaluate.py │ │ │ └── test_filter_conditions.py │ │ └── runners/ │ │ └── red_teaming_runner/ │ │ ├── __init__.py │ │ ├── test_red_teaming_config.py │ │ └── test_red_teaming_runner.py │ ├── nvidia_nat_semantic_kernel/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── semantic_kernel/ │ │ │ ├── __init__.py │ │ │ ├── callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_llm_sk.py │ │ ├── test_sk_callback_handler.py │ │ └── test_sk_decorator.py │ ├── nvidia_nat_strands/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── strands/ │ │ │ ├── __init__.py │ │ │ ├── callback_handler.py │ │ │ ├── llm.py │ │ │ ├── register.py │ │ │ └── tool_wrapper.py │ │ └── tests/ │ │ ├── test_callback_handler.py │ │ ├── test_strands_callback_handler.py │ │ ├── test_strands_integration.py │ │ ├── test_strands_llm.py │ │ └── test_strands_tool_wrapper.py │ ├── nvidia_nat_test/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ ├── _utils/ │ │ │ │ ├── configs.py │ │ │ │ └── dask_utils.py │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── test/ │ │ │ ├── __init__.py │ │ │ ├── embedder.py │ │ │ ├── functions.py │ │ │ ├── llm.py │ │ │ ├── memory.py │ │ │ ├── object_store_tests.py │ │ │ ├── observability.py │ │ │ ├── plugin.py │ │ │ ├── register.py │ │ │ ├── tool_test_runner.py │ │ │ └── utils.py │ │ └── tests/ │ │ ├── test_env_fixtures.py │ │ ├── test_test_llm.py │ │ └── test_test_utils.py │ ├── nvidia_nat_vanna/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── vanna/ │ │ │ ├── __init__.py │ │ │ ├── db_utils.py │ │ │ ├── execute_db_query.py │ │ │ ├── register.py │ │ │ ├── text2sql.py │ │ │ ├── training_db_schema.py │ │ │ └── vanna_utils.py │ │ ├── tests/ │ │ │ └── test_vanna_db_utils.py │ │ ├── text2sql_config.yml │ │ └── text2sql_training_config.yml │ ├── nvidia_nat_weave/ │ │ ├── pyproject.toml │ │ ├── src/ │ │ │ └── nat/ │ │ │ ├── meta/ │ │ │ │ └── pypi.md │ │ │ └── plugins/ │ │ │ └── weave/ │ │ │ ├── __init__.py │ │ │ ├── fastapi_plugin_worker.py │ │ │ ├── register.py │ │ │ ├── weave_eval_callback.py │ │ │ └── weave_exporter.py │ │ └── tests/ │ │ ├── test_fastapi_plugin_worker.py │ │ └── test_weave_eval_callback.py │ └── nvidia_nat_zep_cloud/ │ ├── pyproject.toml │ └── src/ │ └── nat/ │ ├── meta/ │ │ └── pypi.md │ └── plugins/ │ └── zep_cloud/ │ ├── __init__.py │ ├── memory.py │ ├── register.py │ └── zep_editor.py ├── pyproject.toml ├── scripts/ │ ├── bootstrap_milvus.sh │ ├── langchain_web_ingest.py │ ├── sitemap_scraper.py │ └── web_utils.py └── test_data/ ├── azure_openai_e2e.yaml ├── config.yaml ├── docker-compose.services.yml ├── echo.yaml ├── invalid_yaml.yaml ├── missing_section_config.yaml ├── missing_type_config.yaml ├── nginx/ │ ├── Dockerfile │ └── nginx.conf └── piston/ └── Dockerfile