int arr[5][3]={{78,89,74},{87,98,74},{85,86,84},{91,85,87},{96,74,78} };

用一个数组存每列的最大值。
int max;;
int a[5];
for(int i=0;i<5;++i)
  max=0;
    for(int j=0;j<3;++j)
        if(arr[i][j]>max){
           max=a[i][j];
           a[i]=max;
        }