הנה קוד לדוגמא

RB= (int)(((-n2)+(sqrt((double)((n2*n2)-4*n1*n3)))/2*n1));
RM= (int)((((-n2)-(sqrt((double)(n2*n2)-4*n1*n3))/2*n1)));

אגב יש המון סוגריים אז אני מקווה שלא הרסתי משהו תבדוק שזה עובד באמת..

בכללי התוכנית עצמה טובה חוץ מבעיות הקאסטינג הזה...

כל הקטע הוא רק להבין את הרעיון של השורש...

#include <stdio.h>
#include <math.h>

int main()
{
int num1,num2,num3;
double root;
printf("Enter 3 numbers : \n");
scanf("%d%d%d",&num1,&num2,&num3);

root = sqrt((double)(num2*num2)-(4*num1*num3));

printf("The answers for the quadratic equation are : \n\n {%.3f , %.3f}\n\n",
(-num2 + root) / (2.0*num1), (-num2 - root) / (2.0*num1));

return 0;

}