5 gradient descent

import%20marimo%0A%0A__generated_with%20%3D%20%220.20.4%22%0Aapp%20%3D%20marimo.App(width%3D%22medium%22)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20sys%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20random%0A%20%20%20%20if%20sys.platform%20%3D%3D%20%22emscripten%22%3A%0A%20%20%20%20%20%20%20%20import%20pyodide.http%2C%20pathlib%0A%20%20%20%20%20%20%20%20resp%20%3D%20await%20pyodide.http.pyfetch(%22%2Futils.py%22)%0A%20%20%20%20%20%20%20%20pathlib.Path(%22%2Futils.py%22).write_text(await%20resp.string())%0A%20%20%20%20%20%20%20%20sys.path.insert(0%2C%20%22%2F%22)%0A%20%20%20%20from%20utils%20import%20Value%2C%20Neuron%2C%20Layer%2C%20MLP%2C%20draw_dot%0A%0A%20%20%20%20return%20MLP%2C%20draw_dot%2C%20mo%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Gradient%20Descent%0A%0A%20%20%20%20In%20the%20previous%20notebook%2C%20we%20built%20an%20MLP%2C%20computed%20a%20loss%2C%20and%20ran%20%60backward()%60%20to%20get%20gradients.%20Now%20we'll%20use%20those%20gradients%20to%20actually%20improve%20the%20network's%20predictions.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(MLP)%3A%0A%20%20%20%20n%20%3D%20MLP(3%2C%20%5B4%2C%204%2C%201%5D)%0A%0A%20%20%20%20xs%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%5B2.0%2C%203.0%2C%20-1.0%5D%2C%0A%20%20%20%20%20%20%20%20%5B3.0%2C%20-1.0%2C%200.5%5D%2C%0A%20%20%20%20%20%20%20%20%5B0.5%2C%201.0%2C%201.0%5D%2C%0A%20%20%20%20%20%20%20%20%5B1.0%2C%201.0%2C%20-1.0%5D%2C%0A%20%20%20%20%5D%0A%0A%20%20%20%20ys%20%3D%20%5B1.0%2C%20-1.0%2C%20-1.0%2C%201.0%5D%0A%20%20%20%20return%20n%2C%20xs%2C%20ys%0A%0A%0A%40app.cell%0Adef%20_(n%2C%20xs%2C%20ys)%3A%0A%20%20%20%20%23%20forward%20pass%0A%20%20%20%20ypred0%20%3D%20%5Bn(x)%20for%20x%20in%20xs%5D%0A%20%20%20%20loss0%20%3D%20sum((ygt%20-%20yout)**2%20for%20ygt%2C%20yout%20in%20zip(ys%2C%20ypred0))%0A%0A%20%20%20%20%23%20backward%0A%20%20%20%20loss0.backward()%0A%0A%20%20%20%20loss0%0A%20%20%20%20return%20(loss0%2C)%0A%0A%0A%40app.cell%0Adef%20_(n)%3A%0A%20%20%20%20%23%20We%20can%20inspect%20the%20gradient%20on%20the%20first%20weight%20of%20the%20first%20neuron%3A%0A%20%20%20%20n.layers%5B0%5D.neurons%5B0%5D.w%5B0%5D.grad%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20The%20update%20rule%0A%0A%20%20%20%20Each%20gradient%20tells%20us%20the%20direction%20of%20*increased*%20loss.%20To%20*decrease*%20loss%2C%20we%20nudge%20each%20parameter%20in%20the%20opposite%20direction%3A%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20p.data%20%2B%3D%20-step_size%20*%20p.grad%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20The%20**step%20size**%20(learning%20rate)%20controls%20how%20big%20each%20nudge%20is.%20Too%20large%20and%20the%20network%20overshoots%3B%20too%20small%20and%20it%20converges%20slowly.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(loss0%2C%20n%2C%20xs%2C%20ys)%3A%0A%20%20%20%20%23%20nudge%20every%20parameter%20by%20a%20small%20step%20opposite%20the%20gradient%0A%20%20%20%20for%20_p%20in%20n.parameters()%3A%0A%20%20%20%20%20%20%20%20_p.data%20%2B%3D%20-0.01%20*%20_p.grad%0A%0A%20%20%20%20%23%20re-run%20forward%20pass%20%E2%80%94%20loss%20should%20be%20lower%0A%20%20%20%20_ypred%20%3D%20%5Bn(x)%20for%20x%20in%20xs%5D%0A%20%20%20%20loss1%20%3D%20sum((ygt%20-%20yout)**2%20for%20ygt%2C%20yout%20in%20zip(ys%2C%20_ypred))%0A%0A%20%20%20%20print(f%22loss%20before%3A%20%7Bloss0.data%3A.4f%7D%22)%0A%20%20%20%20print(f%22loss%20after%3A%20%20%7Bloss1.data%3A.4f%7D%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Zeroing%20gradients%0A%0A%20%20%20%20Before%20each%20call%20to%20%60backward()%60%2C%20we%20must%20reset%20all%20gradients%20to%20zero.%20Otherwise%20gradients%20**accumulate**%20across%20backward%20passes%2C%20which%20gives%20us%20incorrect%20values.%20This%20is%20a%20common%20bug%20%E2%80%94%20PyTorch%20requires%20the%20same%20thing%20with%20%60optimizer.zero_grad()%60.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Training%20loop%0A%0A%20%20%20%20Now%20we%20put%20it%20all%20together%3A%20forward%20pass%2C%20zero%20grads%2C%20backward%2C%20update%20%E2%80%94%20repeated%20many%20times.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(n%2C%20xs%2C%20ys)%3A%0A%20%20%20%20for%20k%20in%20range(20)%3A%0A%20%20%20%20%20%20%20%20%23%20forward%20pass%0A%20%20%20%20%20%20%20%20ypred%20%3D%20%5Bn(x)%20for%20x%20in%20xs%5D%0A%20%20%20%20%20%20%20%20loss%20%3D%20sum((ygt%20-%20yout)**2%20for%20ygt%2C%20yout%20in%20zip(ys%2C%20ypred))%0A%0A%20%20%20%20%20%20%20%20%23%20zero%20gradients%2C%20then%20backward%0A%20%20%20%20%20%20%20%20for%20p%20in%20n.parameters()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20p.grad%20%3D%200.0%0A%20%20%20%20%20%20%20%20loss.backward()%0A%0A%20%20%20%20%20%20%20%20%23%20update%20weights%0A%20%20%20%20%20%20%20%20for%20p%20in%20n.parameters()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20p.data%20%2B%3D%20-0.01%20*%20p.grad%0A%0A%20%20%20%20%20%20%20%20print(k%2C%20loss.data)%0A%20%20%20%20return%20loss%2C%20ypred%0A%0A%0A%40app.cell%0Adef%20_(ypred%2C%20ys)%3A%0A%20%20%20%20%23%20Final%20predictions%20vs%20targets%0A%20%20%20%20list(zip(ys%2C%20%5By.data%20for%20y%20in%20ypred%5D))%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(draw_dot%2C%20loss)%3A%0A%20%20%20%20draw_dot(loss)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A