Når du tegner flere vitenskapelige datapunkter, kan det være lurt å passe en kurve som passer best til poengene dine ved hjelp av programvare. Imidlertid vil kurven ikke samsvare med datapunktene dine nøyaktig, og når den ikke gjør det, kan det være lurt å beregne root mean squared error (RMSE) for å måle i hvilken grad datapunktene varierer fra kurven. For hvert datapunkt beregner RMSE-formelen forskjellen mellom den faktiske verdien av datapunktet, og verdien av datapunktet på den best tilpassede kurven.
Finn den tilsvarende y-verdien på din best fit-kurve for hver verdi på x som tilsvarer de opprinnelige datapunktene.
Trekk den faktiske verdien av y fra verdien av y på din best tilpassede kurve, for hvert datapunkt du har. Forskjellen mellom den faktiske verdien av y og verdien av y på din best fit-kurve kalles gjenværende. Kvadrat hvert resterende, og summer deretter restene dine.
Del summen av restene dine med det totale antallet datapunkter du har, og ta kvadratroten. Dette gir roten gjennomsnittlig kvadratfeil.