gitextract_f9lneout/

├── .github/
│   ├── ISSUE_TEMPLATE/
│   │   ├── bug_template.md
│   │   ├── doc_template.md
│   │   └── feature_template.md
│   ├── PULL_REQUEST_TEMPLATE/
│   │   └── pull_request_template.md
│   └── workflows/
│       ├── doc-build.yml
│       ├── main_cpp.yml
│       ├── main_distributed.yaml
│       └── main_python.yml
├── .gitignore
├── CODEOWNERS
├── CODE_OF_CONDUCT.md
├── CONTRIBUTING.md
├── LICENSE
├── README.md
├── cpp/
│   ├── .clang-format
│   ├── autograd/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   └── autograd.cpp
│   ├── custom-dataset/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   ├── custom-dataset.cpp
│   │   └── info.txt
│   ├── dcgan/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   ├── dcgan.cpp
│   │   └── display_samples.py
│   ├── distributed/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   └── dist-mnist.cpp
│   ├── mnist/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   └── mnist.cpp
│   ├── regression/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   └── regression.cpp
│   ├── tools/
│   │   ├── InstallingOpenCV.md
│   │   └── download_mnist.py
│   └── transfer-learning/
│       ├── CMakeLists.txt
│       ├── README.md
│       ├── classify.cpp
│       ├── convert.py
│       ├── main.cpp
│       └── main.h
├── dcgan/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── distributed/
│   ├── FSDP/
│   │   ├── .gitignore
│   │   ├── README.md
│   │   ├── T5_training.py
│   │   ├── configs/
│   │   │   ├── __init__.py
│   │   │   ├── fsdp.py
│   │   │   └── training.py
│   │   ├── download_dataset.sh
│   │   ├── model_checkpointing/
│   │   │   ├── __init__.py
│   │   │   └── checkpoint_handler.py
│   │   ├── policies/
│   │   │   ├── __init__.py
│   │   │   ├── activation_checkpointing_functions.py
│   │   │   ├── mixed_precision.py
│   │   │   └── wrapping.py
│   │   ├── requirements.txt
│   │   ├── summarization_dataset.py
│   │   └── utils/
│   │       ├── __init__.py
│   │       ├── environment.py
│   │       └── train_utils.py
│   ├── FSDP2/
│   │   ├── README.md
│   │   ├── checkpoint.py
│   │   ├── example.py
│   │   ├── model.py
│   │   ├── requirements.txt
│   │   ├── run_example.sh
│   │   └── utils.py
│   ├── ddp/
│   │   ├── README.md
│   │   ├── example.py
│   │   ├── requirements.txt
│   │   └── run_example.sh
│   ├── ddp-tutorial-series/
│   │   ├── README.md
│   │   ├── datautils.py
│   │   ├── multigpu.py
│   │   ├── multigpu_torchrun.py
│   │   ├── multinode.py
│   │   ├── requirements.txt
│   │   ├── single_gpu.py
│   │   └── slurm/
│   │       ├── config.yaml.template
│   │       ├── sbatch_run.sh
│   │       └── setup_pcluster_slurm.md
│   ├── minGPT-ddp/
│   │   ├── README.md
│   │   ├── mingpt/
│   │   │   ├── char_dataset.py
│   │   │   ├── gpt2_train_cfg.yaml
│   │   │   ├── main.py
│   │   │   ├── model.py
│   │   │   ├── slurm/
│   │   │   │   ├── config.yaml.template
│   │   │   │   ├── sbatch_run.sh
│   │   │   │   └── setup_pcluster_slurm.md
│   │   │   └── trainer.py
│   │   ├── requirements.txt
│   │   └── run_example.sh
│   ├── rpc/
│   │   ├── batch/
│   │   │   ├── README.md
│   │   │   ├── parameter_server.py
│   │   │   ├── reinforce.py
│   │   │   └── requirements.txt
│   │   ├── ddp_rpc/
│   │   │   ├── README.md
│   │   │   ├── main.py
│   │   │   └── requirements.txt
│   │   ├── parameter_server/
│   │   │   ├── README.md
│   │   │   ├── requirements.txt
│   │   │   └── rpc_parameter_server.py
│   │   ├── pipeline/
│   │   │   ├── README.md
│   │   │   ├── main.py
│   │   │   └── requirements.txt
│   │   ├── rl/
│   │   │   ├── README.md
│   │   │   ├── main.py
│   │   │   └── requirements.txt
│   │   └── rnn/
│   │       ├── README.md
│   │       ├── main.py
│   │       ├── requirements.txt
│   │       └── rnn.py
│   └── tensor_parallelism/
│       ├── README.md
│       ├── fsdp_tp_example.py
│       ├── llama2_model.py
│       ├── log_utils.py
│       ├── requirements.txt
│       ├── run_example.sh
│       ├── sequence_parallel_example.py
│       └── tensor_parallel_example.py
├── docs/
│   ├── Makefile
│   ├── make.bat
│   ├── requirements.txt
│   └── source/
│       ├── _static/
│       │   └── .gitkeep
│       ├── conf.py
│       └── index.rst
├── fast_neural_style/
│   ├── README.md
│   ├── download_saved_models.py
│   ├── neural_style/
│   │   ├── __init__.py
│   │   ├── neural_style.py
│   │   ├── transformer_net.py
│   │   ├── utils.py
│   │   └── vgg.py
│   └── requirements.txt
├── fx/
│   ├── README.md
│   ├── custom_tracer.py
│   ├── inline_function.py
│   ├── invert.py
│   ├── module_tracer.py
│   ├── native_interpreter/
│   │   ├── CMakeLists.txt
│   │   ├── README.md
│   │   ├── interpreter.cpp
│   │   └── use_interpreter.py
│   ├── primitive_library.py
│   ├── profiling_tracer.py
│   ├── proxy_based_graph_creation.py
│   ├── replace_op.py
│   ├── requirements.txt
│   ├── subgraph_rewriter_basic_use.py
│   └── wrap_output_dynamically.py
├── gat/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── gcn/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── imagenet/
│   ├── README.md
│   ├── extract_ILSVRC.sh
│   ├── main.py
│   └── requirements.txt
├── language_translation/
│   ├── README.md
│   ├── main.py
│   ├── requirements.txt
│   └── src/
│       ├── data.py
│       └── model.py
├── legacy/
│   └── snli/
│       ├── README.md
│       ├── model.py
│       ├── requirements.txt
│       ├── train.py
│       └── util.py
├── mnist/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── mnist_forward_forward/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── mnist_hogwild/
│   ├── README.md
│   ├── main.py
│   ├── requirements.txt
│   └── train.py
├── mnist_rnn/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── regression/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── reinforcement_learning/
│   ├── README.md
│   ├── actor_critic.py
│   ├── reinforce.py
│   └── requirements.txt
├── run_cpp_examples.sh
├── run_distributed_examples.sh
├── run_python_examples.sh
├── runtime.txt
├── siamese_network/
│   ├── README.md
│   ├── main.py
│   └── requirements.txt
├── super_resolution/
│   ├── README.md
│   ├── data.py
│   ├── dataset.py
│   ├── main.py
│   ├── model.py
│   ├── requirements.txt
│   └── super_resolve.py
├── time_sequence_prediction/
│   ├── README.md
│   ├── generate_sine_wave.py
│   ├── requirements.txt
│   └── train.py
├── utils.sh
├── vae/
│   ├── README.md
│   ├── main.py
│   ├── requirements.txt
│   └── results/
│       └── .gitignore
└── word_language_model/
    ├── README.md
    ├── data.py
    ├── generate.py
    ├── main.py
    ├── model.py
    └── requirements.txt