אז מה שאתה צריך לרשום במקום
name.isUpperCase(name.toUpperCase(name));
זה את זה:
name[0]=Char.toUpperCase(name[0]);

עוד דבר-אתה מדפיס לפני שאתה מבצע את השינוי, איך אתה מצפה לראות את השינוי על המסך?

בקיצור הקוד שלך אמור להיות ככה:

 public static void main(String[] args) {
      String name;
      Scanner scan= new Scanner(System.in);
      System.out.print("Enter a name  ");
      name= scan.nextLine();
      name[0]=Char.toUpperCase(name[0]);
      
System.out.print(name);
}

import java.util.Scanner;

public class UpperCaseInitials {
public static void main(String args) {

String message;
Scanner scan= new Scanner(System.in);
System.out.println("Enter a name");
message = scan.nextLine();
int SpaceIndex= message.indexOf(" ");
String upper = message.toUpperCase();
System.out.println(upper);