Dato che questo problema è rimasto senza una soluzione esplicita scrivo qui di seguito la mia (il tempo è quello che è e riesco a scriverla solo ora). Dato che non è meglio specificata la situazione ho assunto che l'angolo

non abbia restrizioni, ovvero possa essere

.
Mediante il teorema dei seni possiamo scrivere, considerando il triangolo OTA, che

. Essendo

e

, abbiamo

.
Sappiamo poi che

, dove

è la velocità iniziale e ovviamente

la velocità della pallina dopo aver "superato" il gradino h.
Come è stato già giustamente fatto notare, la componente di

che varia tra prima e dopo aver sorpassato la collinetta è solamente quella radiale (io per giustificare il fatto mi son ricondotto semplicemente al caso in cui il gradino sia assimilabile ad un cuneo: si nota subito che la somma tra le forze agenti, ovvero il peso e la reazione vincolare, non ha un vettore tangente alla circonferenza, bensì radiale ad essa). Perciò possiamo scrivere che la velocità tangenziale alla circonferenza rimane costante, ovvero:

(la legge a cui mi riferivo nel mio post precedente era la legge di Snell, per l'appunto). Il caso per cui è massimo l'angolo

, e quindi

, si ha proprio quando la pallina arriva ad essere tangente alla circonferenza di raggio a, ovvero

. Essendo

e

, allora

.
Mediante queste considerazioni possiamo quindi scrivere

, da cui si ricava che l'angolo massimo entro cui la pallina va in buca è

.
Per il punto due, ovviamente, si nota sia a livello intuitivo sia passando per la formula già trovata che converrebbe tirare forte.
Per l'ultimo punto, invece, penso che citare possibili rimbalzi, moti rotatori e non considerare più la pallina come oggetto puntiforme sia più che sufficiente.

(Nell'immagine allegata ho sfalsato le proporzioni tra le due circonferenze per rendere più visibili gli angoli!)