Zajmiemy się problemem zanikania kątów między dwoma niezależnymi wektorami wejściowymi w pełni połączonych sieciach neuronowych z aktywacją ReLU. W ramach referatu skupię się przede ówszystkim na dowodzie asymptotycznej gaussowskości wskaźnika $\(R^{\ell + 1}\)$ z wykorzystaniem metody momentów. Uzyskany wynik stanowi istotne uzupełnienie pracy Camerona Jakuba i Mihai Nica Depth Degeneracy in Neural Networks: Vanishing Angles in Fully Connected ReLU Networks on Initialization, opublikowanej w Journal of Machine Learning Research.